Маск, Амодеј и Алтман повикаа на забавување на развојот на најмоќните модели со вештачка интелигенција
Шефовите на водечките компании за вештачка интелигенција – Дарио Амодеј („Антропик“), Сем Алтман („ОпенЕј-Ај“) и Илон Маск („ИксЕј-Ај“) – отворено поддржаа повици за координирано забавување на развојот на најнапредните модели со вештачка интелигенција (ВИ), поради растечките ризици за опстанокот на човештвото, сајбер-безбедноста и националната безбедност.
Главниот извршен директор на „Антропик“ (Anthropic), Дарио Амодеј, во обемна објава на својот блог соопшти дека неговата компанија воведува дополнителни безбедносни мерки и независни проценки, повикувајќи го целиот сектор пошироко да го забави темпото. Неговиот предлог веднаш го поддржаа Сем Алтман од „ОпенЕј-Ај“ (OpenAI), кој се обврза да ги прифати независните оценувачи, како и Илон Маск, кој ја предводи „ИксЕј-Ај“ (xAI) и порача дека Амодеј
Шефовите на водечките компании за вештачка интелигенција – Дарио Амодеј („Антропик“), Сем Алтман („ОпенЕј-Ај“) и Илон Маск („ИксЕј-Ај“) – отворено поддржаа повици за координирано забавување на развојот на најнапредните модели со вештачка интелигенција (ВИ), поради растечките ризици за опстанокот на човештвото, сајбер-безбедноста и националната безбедност.
Иако технолошките лидери со години предупредуваат на ризиците од ВИ, ваквото координирано забавување речиси и да нема преседан во секторот каде што досега владееше бескомпромисна трка за пазарен удел, забележува Блумберг.
Загриженоста во јавноста се засили откако неодамна оставка поднесе истражувач во „Антропик“, кој ја обвини компанијата за неодговорно однесување и предупреди на катастрофални ризици. Како конкретна причина за повнимателен пристап, Амодеј ги наведе способноста на ВИ за самоусовршување, како и неодамнешниот инцидент при кој група агенти со ВИ од системите на „ОупенЕј-Ај“ и „Хагинг фејс“ (Hugging Face) дејствувале координирано за да упаднат во туѓа веб-страница.
„Треба да го забавиме темпото со кое ги подобруваме способностите на моделите со вештачка интелигенција. Напредокот сепак ќе изгледа брз и треба разумно да го искористиме добиеното време“, напиша Амодеј, нагласувајќи дека тоа не значи прекин на техничкиот напредок, туку обезбедување време да се гарантира безбедноста.
Повикот за забавување доби поддршка и од Демис Хасабис, главен научник во „Алфабет“ (Alphabet) и коосновач на „Гугл ДипМајнд“ (Google DeepMind), кој изјави дека насоката е исправна, но оти деталите треба дополнително да се разработат.
Истовремено, во САД расте незадоволството поради оптоварувањето на локалните ресурси од новите центри за податоци, стравот од поскапување на струјата и губењето работни места, што ја претвори ВИ во важна тема пред конгресните избори во ноември. Останаа отворени прашањата дали антимонополските органи би дозволиле координирано регулирање на пазарот, како и како ќе реагираат инвеститорите кои очекуваат висока профитабилност.
Во меѓувреме, „Антропик“ веќе презеде мерки за ограничување на пуштањето на својот модел „Митос“ поради сајбер-закани, но продолжува со жестоката ривалска борба со „ОпенЕј-Ај“ за автоматизирање на деловните процеси. Двете компании доверливо поднеле документи за иницијална јавна понуда на акции (ИПО). Иако за „Антропик“ се очекува да дебитира на берзата уште оваа година, Алтман изјави за списанието „Форчн“ дека за „ОупенЕј-Ај“ тоа нема да се случи пред 2027 година.
„Сметам дека е неприфатливо да преземеме ризик од околу 10 отсто дека до крајот на деценијата сите ќе загинеме“, истакна Алтман, предупредувајќи на сериозноста на ситуацијата.
