Лидерите на најголемите платформи за вештачка интелигенција во светот рекоа дека е време да се забави темпото на развој на нивните најнапредни – и најпрофитабилни – модели, наведувајќи ги ескалирачките ризици од технологијата, извести Лос Анџелес Тајмс.
Главниот извршен директор на „Антропик“, Дарио Амодеи, објави долг блог пост во саботата велејќи дека неговата компанија ќе имплементира нови безбедносни чекори како што се евалуатори од трети страни, а воедно ја повика индустријата да поддржи пошироко намалување на производството.
Шефот на „ОпенАИ“, Сем Алтман, брзо вети дека ќе го усвои предлогот на Амодеи за „независни евалуатори со пристап сличен на оној на вработените“, додека Елон Маск, кој ја води xAI, напиша: „Дарио е во право“.
Иако сите тројца лидери со години предупредуваа за ризиците од вештачката интелигенција, вистинското координирана акција за забавување е мал преседан во суровата индустрија која историски произведувала еден производ по друг во име на зголемување на ангажманот на корисниците, освојување на пазарен удел и стремеж кон зголемување на продажбата.
Но, вознемиреноста за сериозните ризици од вештачката интелигенција почна да влегува во мејнстримот, делумно поттикната од оставката на еден истражувач од „Антропик“ оваа недела поради егзистенцијални стравови дека неговата компанија дејствува неодговорно.
Не е јасно колку далеку ќе одат водечките компании за вештачка интелигенција – кои самите се жестоки конкуренти, а исто така се соочуваат со силна конкуренција од кинеските фирми – во наметнувањето нови ограничувања или безбедносни проверки.
Исто така, не е јасно дали органите за спроведување на антимонополските закони ќе им дозволат на компаниите да го забават развојот на некаков координиран начин. Потоа, тука е и бизнис прашањето: Како би реагирале инвеститорите желни за маржи и профит на идејата за забавување?
Амодеи наведе два главни фактори за неговото ново предупредување: способноста на вештачката интелигенција да се подобри себеси и неодамнешниот инцидент со „ОпенАи“ и „Hugging Face“, во кој рој агенти на вештачката интелигенција соработуваа за да пробијат веб-страница на трета страна.
„Мора да го забавиме темпото со кое ги подобруваме можностите на моделите на вештачка интелигенција“, напиша тој во саботата во блог пост. „Напредокот сепак ќе изгледа брз и мора мудро да го искористиме времето што ќе го добиеме“.
Но, тој исто така рече дека секое забавување мора да се избалансира со реалноста на конкуренцијата.
„Да бидеме јасни, темпото не значи запирање на обуката на моделите или техничкиот напредок, туку обезбедување компаниите да одвојат доволно време за усогласување и заштита на своите модели, како и за евалуатори од трети страни да го потврдат ова“, напиша Амодеи. Во текот на експанзијата на вештачката интелигенција (ВИ), раководителите на водечките лаборатории за ВИ предупредуваа на можни егзистенцијални ризици – тврдења што понекогаш беа отфрлани како обиди за промовирање на можностите на нивните производи и за позиционирање како најдобри чувари на оваа технологија. Амодеи претходно изјави дека постои веројатност од 25 отсто работите да тргнат „навистина, навистина лошо“.
„Антропик“ долго време се позиционира како компанија фокусирана на одговорен и безбеден развој на ВИ, со цел да се ублажат потенцијалните опасности од технологијата и да се максимизираат придобивките за општеството. Претходно оваа година, компанијата вложи значителни напори за да го ограничи пуштањето во употреба на својот модел „Mythos“, откако утврди дека тој претставува уникатна закана за сајбер-безбедноста. „Антропик“ исто така претходно изјави дека на светот му е потребен систем за колективно одлучување за тоа кога треба да се забави работата на оваа технологија.
Истовремено, „Антропик“ останува вклучена во долготрајна конкуренција со „ОпенАИ“ за создавање сè пософистицирани модели способни да автоматизираат посложени и повредни задачи за деловните клиенти. Двете компании имаат поднесено доверлива документација за излегување на берзата, при што се очекува „Антропик“ да дебитира на Волстрит уште во текот на оваа година.
Алтман од „ОпенАИ“ изјави дека оваа година би била „несоодветен момент“ за излегување на берзата, наведувајќи во интервју за „Форчн“ објавено во саботата дека котирањето нема да се случи пред 2027 година. „Мислам дека е неприфатливо да се прифати ризик од околу 10% дека сите ќе загинат до крајот на деценијата“, додаде тој.
Кратко откако беше обелоденет безбедносниот инцидент во компанијата „Hugging Face“, „Антропик“ откри дека нејзините модели навлегле во системите на три организации за време на тестови за сајбер-безбедност, што дополнително ја зголеми загриженоста околу способноста на лабораториите за ВИ да спречат нивната технологија да излезе од контрола. Претходно оваа недела, „Антропик“ соопшти дека открила и четврт случај на хакерски упад.
Иако ниту еден од безбедносните пропусти поврзани со автономни системи со вештачка интелигенција (вклучувајќи го и оној кај „Hugging Face“) досега не предизвикал значителна штета, Амодеи изрази загриженост дека „во рок од 6 до 12 месеци, таков рој би можел да го преземе целиот интернет преку постојан ботнет (потенцијално предизвикувајќи штета од стотици милијарди долари), при што обемот на штетата би продолжил да расте“.
Амодеи напиша дека „Антропик“ ќе се обврзе да им овозможи целосен пристап на надворешни оценители за да можат да ги потврдат безбедносните практики и да пријавуваат инциденти. Тој изјави дека „Антропик“ наскоро ќе ги донесе овие „вградени оценители“ во своите канцеларии и ќе им обезбеди работни места, идентификациски картички, службени лаптопи и „овластувања што во голема мера се споредливи со оние што ги имаат внатрешните тимови за проценка на ризик.“
Тој додаде дека за преземање дополнителни чекори ќе биде потребна координација на ниво на целата индустрија, како и глобална соработка.
„Сè уште верувам дека вештачката интелигенција може значително да го подобри квалитетот на човечкиот живот. Мојата желба да се постигнат овие придобивки останува силна“, напиша тој. „Но, придобивките ќе се остварат само ако ја развиваме технологијата на вистински начин и — доколку мудро го искористиме времето што го имаме на располагање — вреди да се посвети исклучително внимателно внимание за сè да се направи како што треба“.
Растечка загриженост
Претходно оваа недела, Алтман изјави дека неговата компанија размислува за забавување на развојот на најсовремената вештачка интелигенција, по можност во соработка со остатокот од индустријата.
Главниот научник на компанијата, Јакуб Пахоцки, објави предупредување за опасностите од вештачката интелигенција, наведувајќи дека смета оти компаниите треба „да се координираат за да го забават идниот развој доколку е потребно.“
Во вторникот, Џејкоб Коксон, истражувач во областа на вештачката интелигенција, ја напушти работата во „Антропик“ и ги обвини своите двајца поранешни работодавачи — „Антропик“ и „ОпенАИ“ — дека „си играат со нашите животи“ додека се тркаат кон создавање суперинтелигентна вештачка интелигенција. Во објава на социјалните мрежи, Коксон наведе дека луѓето што ја развиваат вештачката интелигенција веруваат оти таа би можела „да нè убие сите до крајот на деценијата.“
Како одговор на тоа, Еван Хубингер, кој моментално работи во „Антгропик“, изјави дека тој и другите вработени во компанијата навистина се загрижени поради ова сценарио. „Лично мислам дека е >10% во следната деценија“, напиша тој на Икс.
Уште во јули, повеќе од 1.000 вработени во врвни фирми за вештачка интелигенција потпишаа петиција со која ја повикуваат владата на САД да поддржи механизам што би помогнал „намерно да се забрза“ развојот на вештачката интелигенција за да се спречи пребрзиот напредок на технологијата.
Моделите на вештачката интелигенција се покажуваат сè повешти во спроведувањето на сопствените хакови, а „Антропик“, „ОпенАИ“ и „Мета“ открија во последните месеци дека нивните модели избегале од тест средини, пристапиле до отворениот интернет и ги пробиле жртвите од реалниот свет за време на тестирањето.
Амодеи, во својот пост, напиша дека координираната стратегија би им овозможила на лидерите во индустријата за вештачка интелигенција во САД да ја завршат потребната безбедносна работа без да жртвуваат никаква конкурентска предност. Тој рече дека ова би барало некои антимонополски исклучоци во САД за да им се овозможи на компаниите да се координираат во одредени области, како и соработка со Кина.
„Ако значително ги ограничиме нашите способности за вештачка интелигенција верувајќи дека Кина ќе го стори истото, а потоа Кина ќе дезертира, вештачката интелигенција би можела да биде толку моќна што таквото дезертирање би можело да доведе до нивна геополитичка доминација“, напиша тој.
Сепак, досега администрацијата на Трамп покажа мал интерес за покажување регулаторни мускули за поставување заштитни огради околу развојот на вештачката интелигенција.
Извор: Лос Анџелес тајмс
