„Zombie internet“ se pomalu stává skutečností. Proč je automaticky generovaný AI obsah nebezpečný?

Internet, jak ho známe, se mění. Umělá inteligence (AI) zaplavuje webové stránky automaticky generovaným obsahem bez lidského dohledu. Mezi odborníky dostal tento fenomén označení „slop“ a hrozí, že promění náš online svět v zombie. Jak je to možné a dokážeme tomu předejít?

Co je vlastně „slop“?

Slop je obsah vytvořený umělou inteligencí, který se vyskytuje na webu bez jakékoliv editace či kontroly ze strany člověka. Nejedná se o interaktivní chatboty, ale o statické stránky, obrázky a texty. Jejich hlavním cílem je generovat příjmy z reklamy a lákat pozornost vyhledávačů.

Ačkoliv se může zdát, že jde o neškodný trend, opak je pravdou. Slop zabírá čas a úsilí uživatelů, kteří se musí skrze něj proklikávat, aby našli relevantní obsah. Celkový negativní dopad tak výrazně převyšuje zisk tvůrců slopu.

AI generuje nepravdivé články i e-booky

Největším rizikem slopu je jeho faktická nesprávnost. Například článek o Ottawě generovaný AI uvedl jako hlavní turistickou atrakci města místní potravinovou banku. Bizarní výtvory AI však dokážou i pobavit – co třeba virální obrázek Ježíše Krista s klepety místo končetin?

Mnohem nebezpečnější jsou ale AI generované knihy, které se zabývají například sběrem hub. Momentálně je lze zakoupit na Amazonu, přičemž obsahují nepravdivé informace, které mohou vést i k otravě. Také na Facebooku se množí podivné obrázky a příspěvky generované AI, které tisíce lidí sdílejí a často nedokážou rozpoznat, že se nejedná o reálné fotografie.

Dokážeme slop zastavit?

Boj proti slopu nebude jednoduchý. Vyžádá si úsilí celého internetového průmyslu, podobně jako tomu bylo u spamu v e-mailech. V souvislosti s ním museli velcí hráči, včetně Gmail, nasadit agresivní filtrování a monitorování. I giganti, mezi něž patří i Google, však nyní sami experimentují s implementací AI odpovědí přímo do výsledků vyhledávání.

Uživatelé tudíž musí o odkazy na skutečné weby nejprve zažádat. I přes snahu o zábrany se tak slop dál nekontrolovaně šíří internetem. Nezbývá než doufat, že se podaří najít rovnováhu mezi využitím AI a zachováním kvality a důvěryhodnosti online obsahu. Jinak nás chtě nechtě čeká zombie internet, kde AI bude recyklovat a dále generovat automaticky vygenerovaný obsah.