Technológie, ktoré mali zjednodušiť svet, sa niekedy postarajú o presný opak. Apple, gigant vo svete inovácií, sa ocitol v centre kritiky po tom, čo jeho nová funkcia generovania upozornení na správy spôsobila viac škody než úžitku.
Prečo Apple dalo „STOP“ na svoju AI funkciu?
Predstavte si, že na vašom iPhone dostanete upozornenie, že známa osobnosť spáchala samovraždu. Panika, šok, a nakoniec – omyl. Presne toto sa stalo používateľom, keď funkcia umelej inteligencie (AI) od Apple mylne oznámila smrť osoby, ktorá bola obvinená z vraždy. Táto funkcia však chyby neurobila len raz, ale opakovane – a to aj pri správach od prestížnych médií, ako sú BBC, New York Times či Washington Post.
Halucinácie umelej inteligencie? Realita dneška
Svet AI je fascinujúci, no má svoje temné zákutia. Odborníci často hovoria o fenoméne tzv. „halucinácií“, keď AI jednoducho vymýšľa veci, ktoré nemajú žiadny základ v realite. Problém je, že v kontexte spravodajstva môžu byť takéto chyby fatálne – nielenže dezinformujú verejnosť, ale aj podkopávajú dôveru v samotné médiá.
„Firmy nemajú zatiaľ spoľahlivý spôsob, ako zaručiť, že AI nebude halucinovať, okrem dôsledného ľudského dohľadu,“ uviedol Jonathan Bright, expert na AI z Inštitútu Alan Turing.
Hádanky, na ktoré AI nepozná odpoveď: Čo to prezrádza o našej mysli?
Prečo je tento krok Apple taký významný?
Apple nie je známe tým, že by sa ľahko vzdávalo svojich inovácií. Tento technologický gigant má povesť spoločnosti, ktorá obhajuje svoje produkty aj napriek kritike. Tentokrát sa však situácia vymkla spod kontroly. Funkcia generovania súhrnov správ nepriniesla len problémy Applu, ale aj samotným médiám, ktoré sa ocitli v nepravdivom svetle. Spoločnosť Apple otvorene kritizoval aj spravodajský portál BBC. Dôvodom boli nepresné titulky spojené s jeho logom.
Čo Apple sľubuje?
Po mesiaci ticha Apple oznámilo, že funkciu dočasne pozastavuje. Súhrny upozornení na správy a zábavu sa zatiaľ stiahnu zo všetkých beta verzií iOS, iPadOS a macOS. Apple tiež sľubuje vylepšenia, ktoré prídu v budúcich aktualizáciách.
Tento prípad ukazuje, že ani firmy ako Apple, s obrovskými zdrojmi a špičkovými odborníkmi, nemajú technológiu AI pod úplnou kontrolou. Čoraz väčší tlak na rýchle uvádzanie inovácií môže mať závažné následky – od dezinformácií až po stratu dôvery verejnosti.
Pre každého používateľa technológií je to jasný signál: Overujte informácie a nespoliehajte sa slepo na umelú inteligenciu.
Tento incident je pripomienkou, že cesta k dokonalosti AI je ešte dlhá. Spoločnosť Apple má pred sebou výzvu, aby si nielen napravila reputáciu, ale aj dokázala, že technológie môžu byť bezpečné a spoľahlivé. Či sa im to podarí, ukáže až čas – a ďalšia aktualizácia systému.
