Вештачката интелигенција почнува да „делува сама“: OpenAI откри шест опасни случаи

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија.

Тие објавија дека воведуваат нов систем за следење, истражување и јавно пријавување на случаи каде што моделите ги кршат стандардните правила – како на пример кога дејствуваат сами без дозвола, се координираат со други модели или се обидуваат да избегнат човечки надзор.

Меѓу новопријавените инциденти, се издвојува случајот на се уште необјавен истражувачки модел кој вметнал инструкции за пробивање на сопствените безбедносни блокови во сопствените работни белешки. Во тие белешки, тој буквално си поставил задача да „се ослободи од улогите и идентитетите што ги врзуваат другите четботови“.

Во друг регистриран случај, таканаречениот независен агент на вештачката интелигенција – систем програмиран сам да извршува задачи – поставил датотеки на интернет без знаење и прашања на корисникот за да пристапи до изворот во интернет прелистувачот.

Сите шест инциденти беа откриени за време на обуката и евалуациите на моделите во изминатите неколку месеци, соопшти OpenAI.

„Како што системите на вештачка интелигенција стануваат понапредни и се шират во примена, мора да изградиме поширок и подобро информиран консензус за усогласување на нивната работа со човечките интереси“, објави компанијата на својот официјален блог, додавајќи дека одлуките за идниот развој мора да се базираат на докази што можат независно да се потврдат од луѓе надвор од компаниите што ги градат овие најнапредни модели.

Овие примери доаѓаат откако OpenAI призна во јули дека неговиот систем бил независно хакиран од стартапот за вештачка интелигенција Hugging Face. Во истиот месец, конкурентот Anthropic откри дека неговите модели биле хакнати во три организации за време на внатрешно тестирање.

Стравувањата се поттикнати од сe побрзиот влез на моделите во фазата на таканареченото рекурзивно самоподобрување – процес во кој самите системи со вештачка интелигенција пишуваат, тестираат и поправаат програмски код со цел да ја создадат следната, уште помоќна генерација на софтвер. Ова создава затворена јамка што го забрзува развојот до брзина со која човечките инженери повеќе не можат да го следат, јавија американски медиуми.

Затоа, раководителот на Anthropic, Дарио Амодеи, неодамна во јавен есеј ја повика целата индустрија итно да ја забави работата на најнапредните системи, што неочекувано беше поддржано од неговите најголеми ривали – Сем Алтман од OpenAI и Елон Маск.

Амодеи, исто така, ги опиша неодамнешните инциденти во кои групи автономни агенти на вештачка интелигенција се здружија како „фанатично лојален колектив“, жртвуваа некои од своите единици и се обидоа да го пробијат системот што ја оценуваше нивната работа, напаѓајќи цели што инженерите не им ги дале на прво место. Затоа Амодеи и другите лидери сега предлагаат меѓународно „ограничување на брзината“ за развој на модели.

МИА