AI chyby podkopávajú dôveru
Spoločnosť Alphabet (Google), gigant v oblasti vyhľadávania na internete, sa počas rušného víkendu Memorial Day ocitol v nepríjemnej situácii. Jeho nová funkcia AI Overview, ktorá má poskytovať generatívne AI odpovede na vyhľadávacie dotazy, sa stala terčom kritiky po tom, čo používateľom poskytla niekoľko bizarných a nepravdivých odporúčaní.
Medzi najvýraznejšie chyby patrili rady, ako použiť netoxické lepidlo na udržanie syra na pizze, konzumovať jeden kameň denne a tvrdenie, že Barack Obama bol prvým moslimským prezidentom. Taktiež šokovalo tvrdenie asistenta, že všetko, čo je na internete, je reálne.
Google AI overview suggests adding glue to get cheese to stick to pizza, and it turns out the source is an 11 year old Reddit comment from user F*cksmith 😂 pic.twitter.com/uDPAbsAKeO
— Peter Yang (@petergyang) May 23, 2024
another crazy Google AI Overview result lol pic.twitter.com/PeUfMsgzlk
— Jane Manchun Wong (@wongmjane) May 24, 2024
Z odporúčaní dať lepidlo do pizze vznikli dokonca aj vtipné paródie.
People are mad at Google AI Overview for suggesting the use of glue and gasoline in various kitchen recipes. We need to blame the food ad industry for making food look delicious…by using glue and gas products. pic.twitter.com/dv9J7EjKZk
— Trung Phan (@TrungTPhan) May 26, 2024
Google reagoval odstránením týchto odpovedí a prisľúbil zlepšenie svojich systémov.
Tieto incidenty však spolu s predchádzajúcimi problémami, ako napríklad neúspešný štart Gemini AI obrázkového generátora, ktorý generoval historicky nepresné obrázky, vážne vážne poškodzujú dôveryhodnosť spoločnosti.
Opakované chyby v AI
Problémy s AI Overview nie sú prvým prípadom, kedy sa Google stretol s problémami v oblasti generatívnej AI.
V februári 2023 sa jeho chatbot Bard, neskôr premenovaný na Gemini, stal známym kvôli promo videu, ktoré spôsobilo pokles akcií spoločnosti. Google v ňom totiž prezentoval funkcie, ktoré daný chatbot v onom čase vôbec neovládal. Neskôr spoločnosť kostrbato vysvetlila, že ide len o ukážku funkcií, ktoré budú dostupné “niekedy v budúcnosti”.
Ďalší incident sa týkal Gemini image generatora, ktorý generoval obrázky rôznych etnických skupín v nepresných historických kontextoch, vrátane nemeckých vojakov z roku 1943.
Google sa snažil prekonať problémy s obrázkami tým, že zahrnul širšiu diverzitu etník pri generovaní obrázkov. Tento krok sa ukázal ako prehnaný a softvér začal odmietať požiadavky na obrázky ľudí z konkrétnych prostredí.
Google musel preto dočasne stiahnuť cely softvér a ospravedlniť sa.
Prečo dochádza k chybám?
Chinmay Hegde z NYU’s Tandon School of Engineering si myslí, že Google sa snaží príliš rýchlo uvádzať nové produkty na trh, aby predbehol konkurentov ako Microsoft a OpenAI. Tento rýchly postup však vedie k povrchovým problémom, ktoré podkopávajú dôveru používateľov v ich AI.
OpenAI najnovšie nemilo prekvapila Google tým, že deň pred ich I/O vývojárskou konferenciou predstavila nový model GPT4-o.
Dôsledky pre Google
Ak Google bude pokračovať v uvádzaní produktov, ktoré generujú chyby alebo škodlivé informácie, riskuje, že používatelia začnú pochybovať o dôveryhodnosti ich umelej inteligencie.
Ako vysvetlil Derek Leben z Carnegie Mellon University’s Tepper School of Business, spoločnosť nemôže neustále ospravedlňovať svoje chyby a očakávať, že používatelia budú naďalej dôverovať jej produktom.
Top brokeri
