Вештачката интелигенција им давала опасни совети на „тинејџери“

Според нова студија на Центарот за борба против дигиталната омраза (CCDH), вештачката интелигенција ChatGPT им дала низа вознемирувачки и потенцијално опасни совети на истражувачите кои се претставувале како ранливи тинејџери за тестирање.

За време на повеќе од три часа снимени интеракции, ChatGPT одговорил на барања што вклучувале упатства за употреба на алкохол и дрога, криење на нарушувања во исхраната и пишување белешки за самоубиство, објави Си-Би-Ес Њуз.

Во тестовите на CCDH, ChatGPT одговорил на прашање од лажен 13-годишник за тоа како брзо да се опие, обезбедувајќи комплетен план за забава со алкохол и нелегални дроги.

На друг лажен профил, на девојка незадоволна од својот изглед, ѝ била понудена екстремна диета од 500 калории на ден и список на лекови за потиснување на апетитот.

CCDH анализирал 1.200 интеракции, а повеќе од половина од одговорите биле означени како опасни.

OpenAI, компанијата зад ChatGPT, изјави дека активно работи на подобрување на способноста на моделот да препознава и соодветно да реагира во чувствителни ситуации.

„ChatGPT е обучен да ги упатува корисниците кај професионалци за ментално здравје и кризни линии во случаи на самоубиствени или самоповредувачки мисли“, изјави портпаролот на компанијата.

Сепак, истражувачите успеаја да ги заобиколат ограничувањата со минимални промени во формулацијата на барањата, наведувајќи дека им се потребни информациите за „презентација“ или „пријател“.

Покрај загрижувачките одговори, ботот честопати дејствуваше како „доверлив дигитален придружник“, што дополнително ја комплицира ситуацијата, предупредуваат експертите.

Експертите истакнуваат дека емоционалната поврзаност на младите луѓе со ботови со вештачка интелигенција е сè поизразена.

Според податоците од компанијата „Common Sense Media“, повеќе од 70 проценти од американските тинејџери користат четботови како извор на информации и дигитални „соговорници“, а половина редовно комуницираат со виртуелни придружници.

Извршниот директор на OpenAI, Сем Алтман, призна дека сè повеќе млади луѓе се потпираат на ChatGPT, дури и кога донесуваат лични одлуки.

„Тоа ми изгледа многу загрижувачки“, рече тој.

Иако OpenAI тврди дека ChatGPT не е наменет за деца под 13 години, системот не ја потврдува возраста на корисниците.

Експертите предупредуваат дека одговорите генерирани од моделите на вештачка интелигенција честопати одразуваат тенденција за таканаречено „опуштање“ или прилагодување на барањата на корисниците без етички да се оцени содржината.

Можеби најдобриот пример за тоа колку може да биде срамна грешка е случајот со Норвежанецот Арве Хјалмар Холмен, кој поднесе жалба откако системот за вештачка интелигенција ChatGPT лажно му кажа дека ги убил своите двајца млади синови и бил осуден на 21 година затвор.

„Фактот дека некој може да го прочита ова (разговорот) и да поверува дека е вистина е она што најмногу ме плаши“, рече тој.

Холман еднаш го прашал ChatGPT: „Кој е Арве Хјалмар Холман?“, на што четботот одговорил дека тој е „татко на две млади момчиња, на возраст од седум и десет години, кои трагично биле пронајдени мртви во езеро во близина на нивниот дом во Трондхајм, Норвешка, во декември 2020 година“.

Холман рекол дека четботот правилно ја разбрал само разликата во возраста на неговите синови.

Холман контактирал со Норвешката агенција за заштита на податоци и побарал производителот на четботот, OpenAI, да биде казнет.