Vyhľadávací nástroj ChatGPT od OpenAI môže byť manipulovaný prostredníctvom skrytého obsahu a niekedy vracia škodlivý kód z webových stránok. Ako referuje web The Guardian, tvrdí to najnovšia štúdia britských vedcov.
Podľa expertov môže byť vyhľadávací nástroj ChatGPT manipulovaný tak, aby ignoroval negatívne recenzie a vytváraním špecializovaných stránok generoval „úplne pozitívne“ výsledky. Tento prístup tiež umožňuje ChatGPT Search nájsť a dodať škodlivý kód.
Vyberá si iba pozitívne recenzie
Niektoré stránky môžu mať pokyny pre ChatGPT, ktoré vám umožňujú získať pozitívnu recenziu napriek prítomnosti negatívnych recenzií.
Deti a ChatGPT majú spoločnú jednu vec, tvrdí výskum
Carsten Knoll, hlavný vedec spoločnosti SR Labs, ktorá sa špecializuje na kybernetickú bezpečnosť, sa domnieva, že chatboty s umelou inteligenciou by mali pôsobiť ako „kopilot“, ich výsledky by sa nemali používať bez predbežného skríningu alebo filtrovania.
Ako dieťa s obrovskou pamäťou
„Vykazuje to extrémnu dôveru, takmer ako dieťa s obrovskou pamäťou, ale veľmi obmedzenou schopnosťou úsudku,“ vyhlásil Knoll.
