Американските технолошки гиганти Google и Microsoft и компанијата xAI ќе ѝ дозволат на американската влада да ги тестира нивните модели на вештачка интелигенција пред да бидат лансирани за да се сузбијат заканите за сајбер безбедноста. Новите договори ќе им овозможат на владините експерти да ги проценат потенцијалните ризици од новите системи на вештачка интелигенција пред да бидат достапни за јавноста, објави Националниот институт за стандарди и технологија, пренесува CNN.
Партнерството доаѓа откако моќниот нов модел на вештачка интелигенција Mythos на Anthropic минатиот месец предизвика широка загриженост за влијанието на вештачката интелигенција врз сајбер безбедноста, поттикнувајќи ја Белата куќа да разгледа формален процес на преглед. Според новите договори, Центарот за стандарди и иновации на вештачката интелигенција (CAISI), кој работи во рамките на Министерството за трговија на САД, ќе може да ги оценува новите модели на вештачка интелигенција и нивното потенцијално влијание врз националната и јавната безбедност. Центарот, исто така, ќе спроведува истражувања откако моделите ќе бидат објавени и досега има завршено повеќе од 40 вакви евалуации.
„Независната и ригорозна наука за мерење е од суштинско значење за разбирање на најсовремената вештачка интелигенција и нејзините импликации за националната безбедност. Оваа проширена соработка со индустријата ни помага да ја унапредиме нашата работа во јавен интерес во клучно време“, рече директорот на CAISI, Крис Фол.
Причина за нови мерки
Моделот Mythos, за кој Anthropic тврди дека е „далеку понапред“ од другите во однос на сајбер безбедноста, предизвика бран загриженост кај владите, банките и комуналните претпријатија во текот на изминатиот месец. Компанијата изјави дека верува оти сè уште не е време моделот да се објави јавно и го ограничува пристапот на избрана група одобрени организации. Исто така, ги информираше високите владини претставници на САД за своите можности.
OpenAI презеде сличен чекор, објавувајќи минатата недела дека ги става своите најнапредни модели на вештачка интелигенција на располагање на сите потврдени нивоа на власт со цел да се спречат заканите овозможени од вештачката интелигенција.
Текстот САД ќе тестираат модели на вештачка интелигенција од Microsoft, Google и xAI пред да бидат лансирани е превземен од МАКФАКС.
