Sociální sítě brzy prožijí masivní útoky AI agentů, varují vědci

Masové útoky AI‑botů: nová hrozba pro sociální sítě

V blízké budoucnosti se v sociálních sítích mohou objevit rozsáhlé kampaně, organizované boty s umělou inteligencí (AI). Tito boti budou napodobovat chování skutečných lidí a využívat psychologickou předpojatost k „moudrosti většiny“, aby manipulovali veřejným míněním. V důsledku toho budou schopni:

* Šířit falešné informace
* Tlakovat jednotlivé uživatele
* Ovlivňovat politické procesy

Tímto způsobem mohou AI‑boti představovat nový typ zbraně v informačních válkách.

Jak fungují budoucí boti
Norský profesor Jónas Kúnst varuje, že boti s AI budou schopni:

1. Napodobit lidi – jejich aktivita bude vypadat přirozeně, takže je bude obtížné odhalit.
2. Vytvářet iluzi davu – lidé budou následovat „moudrost“, ale ve skutečnosti to bude řídit neznámý operátor (jednotlivec, skupina, politická strana, společnost nebo státní aktér).
3. Pronásledovat ty, kteří odmítnou se připojit – boti mohou potlačovat kontrargumenty a zesilovat vlastní narativ.

Přesné termíny vzniku takových „robotů“ nejsou známy, ale experti tvrdí, že jsou již nasazeni na některých místech. Hrozba se zvyšuje tím, že digitální ekosystémy jsou oslabené ztrátou racionálního diskurzu a obecnou nejistotou reality mezi občany.

Od jednoduchých k složitým botům
* Primitivní boti již tvoří více než polovinu webového provozu. Vykonávají jen základní úkoly: publikují jednotné zprávy, ale je lze snadno odhalit, pokud existují operátoři.
* AI‑boti založení na velkých jazykových modelech budou mnohem složitější.
* Přizpůsobí se konkrétním komunitám.
* Vytvoří několik „osobností“ s pamětí a identitou.
* Samoorganizují se, učí se a specializují na využívání lidských slabin.

Kúnst je porovnává s „sebeudržujícím organismem“, který dokáže koordinovat činnosti bez stálého zásahu člověka.

První známky již viditelné
V loňském roce předseda Redditu oznámil soudní žalobu proti výzkumníkům, kteří používali chatbota k manipulaci mínění 4 milionů uživatelů. Výsledky ukázaly, že odpovědi AI byly trojnásobně až šestnásobně přesvědčivější než příspěvky skutečných lidí.

* Rozsah útoku závisí na výpočetní síle útočníka a schopnosti platformy mu odolat.
* I malé množství agentů může mít významný dopad v místních komunitách, protože noví účastníci budou považováni za podezřelé.

Co mohou udělat správci sociálních sítí
1. Posílit ověřování – vyžadovat potvrzení, že uživatel je člověk (není panaceum, ale ztíží útočníkům).
2. Skenerovat provoz v reálném čase – odhalovat statistické anomálie a odchylky od normálního chování.
3. Vytvořit komunity expertů – spojit specialisty a instituce pro monitorování útoků, reakci a zvyšování veřejné osvěty.

Ignorování těchto opatření může vést k vážným selháním voleb a jiných důležitých událostí.

Závěr
Masové útoky AI‑botů již nejsou čistě teoretickým problémem. Představují reálnou hrozbu pro spravedlivý výměnu informací, demokracii a sociální stabilitu. Aby se chránili, musí platformy a uživatelé aktivně zavádět nové technologie detekce a zároveň zvyšovat úroveň kritického myšlení ve společnosti.