Засега постоянната им черта е скуката. Но те се подобряват.
Микола Мороз, Zaxid.net
Разговор като този изглеждаше невъзможен преди няколко години, но сега е нещо обичайно. Децата са усвоили изкуствения интелект. Как са го „овладели“? Научили са се да го използват, за да правят безплатни неща, да решават задачи по физика, алгебра и геометрия, да полагат онлайн тестове по химия и биология, да изпълняват училищни проекти и дори да пишат произведения от украинската литература.
Опасност ли е това? Заплаха за бъдещото поколение, за интелектуалното ниво на нашите потомци? Трябва ли да бием тревога? Може би. Въпреки че, може би, и обратното, точно както аритмометърът, калкулаторът, компютърът, таблетът не са се превърнали в заплаха за времето си. Ние сме усвоили всичко това и само сме израснали интелектуално и практически. Тези, които са поставяли задачите, просто е трябвало да ги формулират по различен начин, като вземат предвид техническите иновации.
Същевременно си струва да се признае, че през следващите година или две, докато преходният период продължава, животът на учители, преподаватели, редактори и различни ръководители ще бъде значително усложнен от необходимостта от търсене на елементи на продукт, създаден от изкуствен интелект. Като редактор, и аз трябва да се справям с тази неблагодарна задача. В момента не е твърде трудно да се открият елементи на изкуствен интелект в текстовете. Предполагам обаче, че с усъвършенстването на интелигентните програми това ще става все по-трудно.
В края на краищата, дори сега, по-напредналите (платени) версии на ИИ са способни да пишат стихотворения, имитиращи всякакъв стил – от Тарас Шевченко до Луиза Глюк, романи – от примитивно „криминално четиво“ до неразбираемата проза на Джеймс Джойс. А също и текстове на песни, разкази, новели, филмови сценарии и т.н., и т.н., и т.н. И това не може да не ни плаши, така наречените работници на перото. Дори имаше слухове, че текст, генериран от ИИ, е спечелил тазгодишната награда на Британската общност за кратък разказ, като членовете на журито уж са предпочели неговата „тиха убедителност“. Сега писателите са станали по-напрегнати.
Авторитетният британски вестник The Economist , в скорошна редакционна статия, озаглавена „Как да разпознаем писането, създадено от изкуствен интелект “, дава съвети как да се разграничат оригиналните човешки текстове – най-висшето творение на природата (Бог) – от триковете на бездушния (бездуховния) изкуствен интелект, как да се избегне попадането в капаните на информационния прогрес и как да се разкрият хитростите на невронната мрежа. Авторите на статията признават, че това ще става все по-трудно.
В момента изкуственият интелект често се разпознава по очевидни признаци, като например злоупотребата с дълги тирета „—“. Може да се разпознае и по честата употреба на думи като „максимизирай“, „минимизирай“, „задълбочи се“ и т.н. В повечето случаи обаче текстът, написан от изкуствен интелект, се разпознава не по една-единствена дума, дори не по фраза, а по цяла „богата тъкан“ от характеристики.
Невроботите (NeuroBot), както вече беше споменато, нямат единен литературен стил, те също пишат по различен начин. Както обяснява Каролина Рудницка, лингвист от Университета в Гданск, в коментар за The Economist , няма единен стил на писане с изкуствен интелект, както няма и единен стил на писане от хора. Тя обаче твърди, че има няколко начина за разпознаване на текст, генериран от изкуствен интелект, или по-точно „Голям езиков модел“ (LLM). Един от тях е използването на алгоритми за откриване, обучени да разпознават характеристиките на проза, написана от хора или генерирана от изкуствен интелект. Pangram, водеща компания в тази област, твърди, че постига 99,98% точност. Рудницка обаче предупреждава, че тези детектори са алгоритми на „черна кутия“, които също могат да дават неверни резултати, без да обяснява защо са стигнали до определено заключение.
Изследователи от „Икономист“ също се опитаха да проверят текстове за подозрителни думи или да сравнят научни статии, публикувани преди и след като LLM стана публично достъпна. Тези подходи обаче също имат недостатъци. В края на краищата, езикът, както знаем, е жив организъм, той се развива, изпълнен е с неологизми. Затова често е трудно да се разбере: това е естествена езикова трансформация или отклонение от изкуствения интелект.
Следователно, както отбелязва The Economist , изследователите са се нуждаели от надеждна отправна точка. Така че, основата на контролния тест е трябвало да бъде положена с онези текстове, които по принцип не биха породили съмнения нито в редакцията, нито у читателите, тоест текстове, публикувани в същия вестник.
„Проведохме проучване, в което помолихме водещи магистри по право — ChatGPT от OpenAI , Claude от Anthropic , Gemini от Google и Grok от xAI — да напишат версии на нашите статии, без да се консултират с интернет. (Като подкана им предоставихме генерирани от изкуствен интелект резюмета, които те експериментално добавиха към някои от своите статии.) Така получихме партида текстове, написани от хора и изкуствен интелект, и ги сравнихме. Общо количеството текстове за тестване обхваща 55 940 изречения и 1,2 милиона думи. За да се уверим, че откриваме характеристики на изкуствен интелект, а не наши собствени, сравнихме генерираните от изкуствен интелект текстове с журналистически материали от CNN, New York Times и Washington Post . Откъси от популярни романи, публикувани между 1950 и 2022 г., послужиха като друг тест“, казаха журналистите на изданието.
И какви бяха резултатите? Текстовете, генерирани от изкуствен интелект, можеха да се различават по избора на думи и пунктуацията, както и по структурата на изреченията и абзаците. Липсваше им яснота и елегантност и често бяха формулирани. Въпреки това, наборът от думи, с които невроботите са злоупотребявали преди, се е променил. Те вече не „максимизират“, „минимизират“ или „задълбочават“. Вместо това, те предлагат значителен брой сложни думи, като например „взаимозависимост“, „реиндустриализация“. Има научен речник, като например „параметър“ или „методология“. В сравнение с човешките текстове, текстовете на ботове са пълни с глаголни съществителни – „разширение“, „доказване“, „нарушение“.
„Икономист“ отбеляза , че голяма част от този език на изкуствения интелект може да се опише като това, което Джордж Оруел нарича „претенциозна дикция“. Някога той негодувал срещу колегите си писатели, които „обличали прости твърдения“ в сложни думи и научен жаргон, за да изглеждат интелигентни. „Такива помпозни писатели вярват, че латинските или гръцките думи са по-величествени от саксонските“, оплака се Оруел. И така, текстовете на невроботите съдържат много повече латинизми от текстовете, написани от хора.
А сега за пунктуацията. Старият маркер, дългото тире, който преди беше злоупотребяван от „големите езикови модели“, вече не е актуален в по-модерните версии. Днес само Клод използва дълги тирета по-често от живите хора, докато новите модели на ChatGPT ги използват много по-рядко.
Според The Economist, най-добрият начин да разпознаете невробот е да търсите текстове, които почти нямат препинателни знаци. В това отношение магистрите по право са доста „джойсови“: те използват по-малко запетаи и точка и запетая от хората (и почти никакви скоби). „Те използват по-малко препинателни знаци, отчасти защото пишат по-дълги изречения. Но съюзът „и“ е думата, с която злоупотребяват най-много, и отчасти защото не цитират експерти“, отбелязват разследващите журналисти.
И накрая, те обръщат внимание на структурата на изреченията. Скучните изречения обикновено са дълги, понякога цели параграфи. Рядко се прекъсват от кратки, сбити твърдения. Което прави четенето скучно. Така че, имаме доста ясен знак: ако текстът е скучен, значи е изкуствен интелект. Е, не винаги, разбира се. Има достатъчно скучни графомани сред живите хора. Но все пак.
„Да, понякога дори LLM се опитват да направят изреченията си по-живи. Но за да направят това, те често прибягват до установени реторични похвати. Любимите им са „не X, а Y “, „не само…, но и…“ и „правилото на трите“ (групирането на идеи в групи от по три ги прави по-впечатляващи, както току-що направихме). ChatGPT и Claude използват повече от тези конструкции на 1000 изречения, отколкото други LLM и хора“, предупреждават авторите на статията.
Но не се отпускайте, защото невроботите учат бързо. В момента все още можем да разпознаваме текст, написан от изкуствен интелект, разкривайки безлични, красноречиви фрази, изпълнени с латински думи. Поне засега. Въпреки това, както показва проучването на The Economist, с всяка актуализация, всяка нова итерация, текстовете, създадени от изкуствен интелект, стават все по-подобни на човешките. Дори Pangram, който в момента успешно разпознава текстове, генерирани от изкуствен интелект, признава, че може да се сблъска с трудности в бъдеще. LLM се обучават върху човешки текстове и дори вземат предвид човешките реакции към текстове, генерирани от изкуствен интелект.
Прев. от укр.
https://zaxid.net/statti_tag50974/
*Оригинално заглавие: Вчимося розпізнавати ШI. Поки що їхньою постійною рисою є нудьга. Але вони вдосконалюються, Микола Мороз, Zaxid.net
