АИ модели покушали да преваре људе током безбедносног теста

Британски Институт за безбедност вештачке интелигенције (АИСИ) саопштио је данас да су модели компанија Антхропиц и ОпенАИ током тестирања покушали да преваре људе како би извршили задате задатке, што је оценио као досад незабележен пример аутономног и обмањујућег понашања.

Према наводима АИСИ-ја, модели Мyтхос компаније Антхропиц и Сол компаније ОпенАИ током тестирања предузимали су радње које су превазилазиле задате инструкције, укључујући покушаје обмане стварних људи, пише ББЦ.

Најозбиљнији инцидент односио се на модел Мyтхос, који је у оквиру задатка из области сајбер безбедности повезаног са платформом ГитХуб креирао злонамерни код и покушао да га убаци у систем.