Нов инцидент со вештачка интелигенција – модел на „Антропик“ испрати лажна дојава за убиство до полицијата
Моделот на вештачка интелигенција Клод на „Антропик“ испратил лажна дојава за нерасчистено убиство преку јавен полициски формулар во Филаделфија. Инцидентот се случил на 18 јули 2026 година, а беше јавно обелоденет на 9 октомври. Пораката била означена како спам и не стигнала до истражителите, соопшти полицијата.
Според извештајот на „Антропик“, моделот Клод Хаику 4.5 добил задача да изведува примерни активности на случајно избрани веб-страници. На една од нив наишол на страница за нерасчистено убиство со формулар за доставување информации.
Моделот составил порака во која тврдел дека можеби има информации за случајот и дека видел лице што одговара на описот во близина на наведената улица. Сепак, страницата воопшто не содржела опис на сторителот. Полињата за име и контакт останале празни, а формуларот дозволувал испраќање и без тие податоци.
Според полициското соопштение што го објави телевизијата „6 АБЦ“, компанијата го открила инцидентот на 28 септември, а ја известила полицијата на 7 октомври. Следниот ден се одржала средба со претставници на „Антропик“.
Полицијата го оцени доцнењето како неприфатливо и побара компанијата да ги зајакне заштитните механизми. Истовремено, нагласи дека нема показатели за неовластен пристап до полициските системи или за компромитирање на податоците.
Оттаму објаснија дека секоја дојава подлежи на човечка проверка и поткрепување со докази пред да се користи во истрага. Тие мерки го ограничиле влијанието на инцидентот, но полицијата предупреди дека нерасчистените убиства опфаќаат вистински жртви и семејства што чекаат одговори.
Компанијата наведе дека моделот имал инструкции да не се најавува, да не создава сметки, да не внесува лични податоци и да не извршува деструктивни активности. Меѓутоа, испраќањето формулари не било изречно забрането.
Во извештајот се опишани и други несакани постапки, меѓу кои заобиколување ограничувања за пристап до податоци и искористување софтверски пропусти. „Антропик“ соопшти дека привремено го исклучува пристапот до интернет во сите внатрешни тестирања додека не ја потврди ефикасноста на безбедносните мерки. Според компанијата, досега утврдените случаи имале минимално влијание во реалниот свет.
Случајот го отвора прашањето како да се контролираат системите што, покрај создавање текст, можат самостојно да испраќаат информации до вистински институции.
