Tajný list pred odvolaním CEO
Podľa informácií od agentúry Reuters, ktoré boli zverejnené dnes v skorých ranných hodinách, pred minulotýždňovým odvolaním Sama Altmana z pozície CEO spoločnosti OpenAI poslalo niekoľko výskumníkov tejto firmy správnej rade OpenAI dôležitý list.
V tomto liste varovali pred „silným objavom v oblasti umelej inteligencie”, ktorý by mohol predstavovať hrozbu pre ľudstvo. Tento list mal byť zároveň jedným z kľúčových momentov, ktoré viedli k nečakanému odvolaniu Altmana.
According to a report by Reuters, OpenAI's secret breakthrough called Q* (pronounced Q-Star) precipitated the ousting of Sam Altman.
Ahead of Sam's firing, researchers sent the board a letter warning of a new AI discovery that could "threaten humanity". pic.twitter.com/F9bAeJG0fX
— Rowan Cheung (@rowancheung) November 23, 2023
OpenAI a projekt Q*
OpenAI v internom odkaze pre zamestnancov priznal existenciu projektu Q* a listu predaného správnej rade, ale odmietol komentovať jeho obsah.
Projekt Q* by mohol predstavovať prelom v hľadaní tzv. umelej všeobecnej inteligencie (AGI) schopnej prekonať ľudí vo väčšine ekonomicky hodnotných úloh. Okrem toho sa polemizuje, že AGI by mohla byť schopná robiť prakticky všetko lepšie než človek. Rýchlejšie a efektívnejšie. To by znamenalo, že by sme sa v podstate stali jej otrokmi, pretože vo všetkom by nás predbehla.
Aj keď je umelá inteligencia momentálne schopná riešiť matematické problémy “len” na úrovni základnej školy, jeho úspechy vedú výskumníkov k optimizmu ohľadom jeho budúcej úspešnosti, píše Reuters.
AGI: Ďalší krok v AI
Riešenie matematických problémov je považované za hranicu vývoja generatívnej AI. Na rozdiel od kalkulačiek, ktoré riešia obmedzený počet operácií, AGI dokáže generalizovať, učiť sa a chápať. Výskumníci preto vo svojom liste vyjadrili obavy z potenciálneho nebezpečenstva takýchto pokročilých AI systémov, ktoré zrejme prinútili zamyslieť sa vedenie OpenAI nad tým, či chcú ísť týmto nebezpečným smerom.
Reuters okrem toho píše, že skupina AI výskumníkov v OpenAI, známa ako „AI scientist team”, sa snažila optimalizovať existujúce AI modely na zlepšenie ich úsudku a výkonu vedeckej práce.
Altman, ktorý stál za úspechom ChatGPT, získaval pre túto divíziu investície a počítačové zdroje od Microsoftu, aby im pomohol priblížiť ich k dosiahnutiu AGI, čiže všeobecnej umelej inteligencie.
Dnes už dobré známe okolnosti následne viedli k tomu, že správna rada Altmana odvolala, čím zrejme chcela zamedziť nekontrolovateľnému a rýchlemu pokroku v oblasti AGI.
Dôvodom pritom nemali byť len pokroky samotnej OpenAI, ktorú preslávil ChatGPT, ale aj očakávania, že do roka by mohla byť umelá inteligencia vďaka novým investíciám do jazykových modelov ešte 10-násobne šikovnejšia. Tiež sa spomínajú obrovské pokroky u Google Bard, Neuralinku či ElevenLabs, ktoré všetky vedú rovnakým smerom k AGI.
Stalo sa tak deň po tom, čo Altman vystúpil na konferencii, kde povedal šokujúcu vetu: ,,Vytvorili sme nástroj na budovanie, alebo osobnosť?“
A day before Sam was fired, he gave this chilling speech:
"Is this a tool we've built or a creature we have built?"
This timeline would add up with the recent discovery of Q*. pic.twitter.com/BnjcHsdSnl
— Rowan Cheung (@rowancheung) November 23, 2023
Proti odvolaniu Altmana sa však vzbúrili najprv investori na čele s Microsoft a následne aj zamestnanci, čo prinútilo vedenie firmy Altmana prijať naspäť do pozície generálneho riaditeľa.
Zhrnutie
- Výskumníci OpenAI varovali pred novým AI objavom, ktorý môže ohroziť ľudstvo
- Projekt Q* môže byť prelomom v hľadaní AGI
- AGI predstavuje potenciálne nebezpečenstvo, ale aj obrovské príležitosti
Zdroje: Reuters, Twitter (X)
