Prečo Washington pozastavil prístup k najnovším modelom
Spor medzi spoločnosťou Anthropic a administratívou prezidenta Donalda Trumpa sa minulý týždeň výrazne vyostril. Americké ministerstvo obchodu totiž v piatok poslalo firme exportný príkaz, ktorý jej nariaďuje zastaviť prístup k AI modelom Fable 5 a Mythos 5 pre všetkých zahraničných používateľov, a to bez ohľadu na to, či sa nachádzajú v Spojených štátoch alebo mimo nich. Dôvodom je obava z možného zneužitia modelov vojenskými spravodajskými službami nepriateľských krajín.
Minister obchodu Howard Lutnick v liste adresovanom generálnemu riaditeľovi Anthropicu Dariovi Amodeiovi uviedol, že úrady sa boja nasadenia modelov rozviedkami z Číny, Ruska alebo iných rizikových štátov.
Firma príkaz dostala v piatok večer, pričom predtým o žiadnej bezpečnostnej hrozbe nevedela. Aby ho splnila, pristúpila k radikálnemu kroku a obe modely vypla úplne pre všetkých klientov na celom svete, nielen pre zahraničných užívateľov. Podľa Anthropicu ide totiž o prvý prípad, keď americká vláda prinútila firmu stiahnuť z prevádzky verejne nasadený model umelej inteligencie.
Ako sa do hry zapojil Amazon a čo sa stalo na pondelkovom stretnutí
Za samotným spustením kontroverzie stojí podľa viacerých zdrojov spoločnosť Amazon, ktorá je najväčším investorom Anthropicu. Jej výskumníci totiž zistili, že bezpečnostné poistky modelu Fable 5 sa dajú obísť, čiže model je možné prinútiť poskytnúť informácie o kybernetických útokoch, ktoré by inak mali byť obmedzené.
Generálny riaditeľ Amazonu Andy Jassy s týmto zistením oslovil ministra financií Scotta Bessenta, čo následne spustilo rýchlu reakciu vlády. Predstaviteľ administratívy podľa Axiosu tvrdí, že Anthropic o riziku jailbreaku vedel a model napriek tomu vypustil, kým firma túto verziu udalostí odmieta.
Spoločnosti sa napokon v pondelok stretli, presnejšie poslala do Washingtonu svojich vyšších technických zástupcov vrátane bezpečnostného výskumníka Nicholasa Carliniho, vedúceho hodnotenia rizík Logana Grahama a šéfa bezpečnostných opatrení Davea Orra.
Rokovania s ministerstvom obchodu však bezprostredný spor síce upokojili, problém sa však podľa jedného z úradníkov nevyriešil dlhodobo. Ďalšie schôdzky sú naplánované aj s americkou rozviedkou CIA a poradcom Bieleho domu pre vedu Michaelom Kratsiosom, keďže celá záležitosť súvisí aj s novým výkonným nariadením o bezpečnostných opatreniach pri umelej inteligencii.
Spor je o to citlivejší, že Anthropic v súčasnosti dôverne podal žiadosť o vstup na americkú burzu, čiže akékoľvek napätie s vládou môže ovplyvniť aj plánované IPO.
Pripomeňme, že vzťahy medzi firmou a administratívou sa narušili už skôr v tomto roku, keď Anthropic odmietol umožniť americkej armáde používať jeho modely na domáci dohľad a plne autonómne zbraňové systémy, čo viedlo k zaradeniu spoločnosti na zoznam rizikových dodávateľov.
TIP na článok: Návod ako kúpiť ETF na index S&P500 u brokera XTB
Top brokeri
