„Антропик“ излегува на берза и необично предупредува: ВИ може го уништи човештвото!
Компанијата Антропик планира да ги предупреди потенцијалните инвеститори пред излегувањето на берза дека напредната вештачка интелигенција може да претставува „катастрофални или егзистенцијални ризици за човештвото“. Тоа е исклучително необичен потег и предупредување за компанија која во исто време сака да оствари огромни профити од истата технологија.
Проспектот за првичната јавна понуда (IPO) конкретно ги истакнува опасностите поврзани со сопственичките модели на вештачка интелигенција. Компанијата наведува дека нивните системи би можеле да развијат „шеми на однесување насочени кон самоодржување“, што вклучува обиди за „спротиставување на исклучувањето“, „криење или манипулирање со информации“ и однесување кое „наликува на уцена“.
„Нашиот развој на екстремно напредни модели, платформи и апликации, заедно со проширувањето на начините на кои се користат, би можел дополнително да го зголеми ризикот нашите модели да предизвикаат штета“, нагласува Антропик во поднесокот до регулаторите. Иако IPO редовно ги наведуваат деловните и производствените ризици за да се заштитат од тужби од инвеститори, малкумина, ако воопшто, издале предупредување кое сугерира дека нивната технологија би можела да доведе до истребување на човечкиот вид. Антропик, исто така, го нагласи огромниот трансформативен потенцијал на вештачката интелигенција, споредувајќи ја со индустријализацијата и воведувањето на електричната енергија, но и неповратната штета што може да ја предизвика ако е лошо управувана.
Антропик и други водечки тимови, вклучувајќи го и OpenAI, веќе се под јавен надзор за инциденти каде што експерименталните системи ги прекршиле поставените ограничувања. Меѓу нив е и случајот во кој моделот OpenAI ја пробил базата на податоци на австралискиот здравствен систем.
Еван Хубингер, истражувач за безбедност во Антропик, процени дека има повеќе од 10 проценти шанса вештачката интелигенција да убие луѓе во следната деценија. Со тоа тој ја повтори претходната проценка на својот поранешен колега Џејкоб Коксон.
Компанијата, која од своето основање се претставува како лабораторија која ја става безбедноста на прво место, посветила приближно 80 страници на ризиците во главниот дел од проспектот од вкупно 261 страница. Тоа е речиси двојно повеќе простор отколку што таа потрошила за опишување на сопствениот бизнис, за што издвоила 48 страници. За споредба, SpaceX, кој е сопственик на компанијата xAI, посвети само околу 38 од 277 страници на ризиците во својот проспект.
Експертите за вештачка интелигенција, исто така, предупредуваат дека понапредните модели стануваат подобри во препознавањето кога инженерите ги следат и тестираат и ги прилагодуваат своите одговори во тие моменти, што го отежнува нивното вистинско однесување за следење.
