Debata o bezpečnosti umelej inteligencie sa za posledný týždeň presunula z výskumných laboratórií priamo do centra pozornosti. Výskumníci z firiem Anthropic, OpenAI a Google DeepMind varovali pred katastrofickými rizikami a šéf Anthropicu Dario Amodei cez víkend zverejnil esej, v ktorej vyzval celé odvetvie, aby spomalilo tempo zlepšovania AI modelov. Navrhol trojkrokový plán, ktorý by podľa neho nemal ohroziť obchodnú výhodu ani náskok USA v oblasti AI.
Podporu mu rýchlo vyjadrili Sam Altman, Elon Musk aj Demis Hassabis. Prezident USA Donald Trump však volania po regulácii ostro odmietol a vyhlásil, že na bezpečnú AI stačí múdry prezident s vysokým IQ (tým myslel seba).
Trump tvrdí, že AI nebezpečenstvo je „hoax“. Na konferencii volal Huangovi
Huang: Bezpečnosť je inžiniersky problém
Na konferencii Dreamforce v San Franciscu, kde pred približne 12 000 ľuďmi vystúpil aj Amodei, zaujal šéf Nvidie Jensen Huang taktiež prekvapujúco úplne iný postoj. Podľa neho AI nie je žiadna cudzia myseľ, ale hardvér a softvér, ktorý vytvorili ľudia. „Bezpečnosť je inžiniersky problém, nie právny,“ povedal Huang.
Nové zákony preto podľa neho netreba, keďže trhové sily už existujú. Firmy by mali produkt zdržať, ak si nie sú isté jeho bezpečnosťou. „Je to falošná voľba. Môžete mať oboje naraz,“ vyhlásil o rýchlosti a bezpečnosti.
Jensen Huang pushed back hard against AI labs calling for tighter regulation and slower AI development, at Dreamforce.
"If you are not confident about the safety of the products, and you're not confident in its functionality, capability, or safety, then don't just release it.… pic.twitter.com/oKNnOjG6qY
— Rohan Paul (@rohanpaul_ai) September 15, 2026
Dodal, že firmy majú bežať čo najrýchlejšie, no ak by mali pocit, že niečo nie je bezpečné, mali by si dať pauzu. V relácii Mad Money označil nové pravidlá za „úplne zbytočné“.
Kritici upozorňujú, že Huangov postoj nie je prekvapivý, keďže Nvidia na boome AI mimoriadne zarába. Deň predtým navyše Huang na All-In Summite telefonoval priamo s Trumpom a ubezpečil ho, že spomalenie nedovolí. Aj firmy s dobrými úmyslami však vydávajú chybné produkty a AI už spôsobila reálne škody.
Zuckerberg sa pridal k Huangovi
Hoci Mark Zuckerberg na Dreamforce nevystúpil, v ten istý deň sa v príspevku na sieti X postavil na Huangovu stranu. Tvrdí, že laboratóriá, ktoré sa nesústredia na zosúladenie AI s ľudskými hodnotami, jednoducho zaostanú.
„Dôvera a zosúladenie sa rýchlo stávajú najdôležitejšími schopnosťami, ktoré odlíšia agentov a modely,“ napísal. Firmám podľa neho hrozí veľká zodpovednosť za škody, takže majú prirodzenú motiváciu byť opatrné. Pripomenul, že Meta z bezpečnostných dôvodov sama odložila spustenie technológií Muse.
Altman na tej istej konferencii zdôraznil, že bezpečnosť musí predbehnúť nové funkcie. „Nemali by existovať žiadne výhrady,“ povedal o záväzku firiem správať sa zodpovedne.
Priekopníci AI bijú na poplach
Opačný tábor posilňujú vedci, ktorí technológiu pomáhali vytvoriť. Geoffrey Hinton pre BBC uviedol, že 10% šanca, že AI do desiatich rokov zničí ľudstvo, „nie je nerozumná“. AI by podľa neho mohla navrhnúť nebezpečné vírusy alebo spustiť ničivé kybernetické útoky.
Yoshua Bengio varuje, že dnešné systémy už majú hackerské schopnosti aj silu presviedčania, ktoré možno obrátiť proti ľuďom. Obáva sa, že snahy firiem môžu problémy len skrývať.
Aidan Gomez zo spoločnosti Cohere zase označil modely za „najsilnejšiu kybernetickú zbraň, aká kedy vznikla“, no za kľúčovú považuje bezpečnosť prostredia, v ktorom AI beží.
Diskusia sa tak rozdelila na dva jasné tábory. Kým jedni volajú po brzdách, druhí veria trhu, a Biely dom zatiaľ stojí na ich strane.
Téme bezpečnosti AI a možných teórii, prečo sa o tejto téme aktuálne diskutuje tak intenzívne, sa detailne venoval aj podcast Zaujalo nás:
TIP na článok: Profil spoločnosti Nvidia a návod ako kúpiť jej akcie
Profil spoločnosti Nvidia (NVDA) – Návod AKO KÚPIŤ jej akcie
Top brokeri
