Umělá inteligence nyní může odhalovat skutečné tvůrce falešných online účtů, čímž ohrožuje anonymitu na internetu.

Jak umělá inteligence odhaluje falešné účty

Ve síti mnoho uživatelů vytváří anonymní nebo padělané profily, protože si myslí, že tím ochrání svou identitu. Nové výzkumy však ukazují, že moderní modely AI dokážou nejen takové „padělky“ odhalit, ale také určit skutečného vlastníka.

Kdo se zabýval touto otázkou?

Švýcarská vysoká technická škola v Curychu (ETH Zurich), nezávislý vzdělávací a výzkumný program MATS a společnost Anthropic společně zveřejnily výsledky ve formě PDF dokumentu.

Jak fungují modely AI?

Modely využívají řadu signálů: shody dat (od malých fragmentů po velké soubory) a charakteristické vzorce chování. Tyto znaky umožňují „předpokládat“ autenticitu účtu a ve většině případů najít jeho skutečného vlastníka.

Klíčové čísla výzkumu

Proč je to důležité?

Výsledky mohou zasáhnout nejen běžné uživatele, ale i ty, kteří publikují informace pod cizími jmény na sociálních sítích. AI může odhalit skutečné jména hackerů, kteří šíří citlivé údaje zaměstnanců firem, a také lidi, kteří kladou otázky na veřejných fórech. Dokonce i manažeři podniků někdy používají pseudonymy k propagaci svého podniku nebo poškození konkurentů – v takovém případě je znám případ Elona Muska. Navíc odhalení identity může ohrozit informátory, aktivisty a oběti násilí, pro které anonymita je životně důležitá.

Problémy s ochranou proti de-anonymizaci

Vědci doporučují několik opatření:

1. Omezit přístup k uživatelským datům prostřednictvím API na platformách.
2. Posílit mechanismy odhalování automatizovaného sběru informací.
3. Minimalizovat export velkých objemů dat.

Výzkumníci však upozorňují, že i tyto kroky ne zaručují stoprocentní ochranu. V následujících letech – a dokonce měsících – bude stále obtížnější zabránit AI v provádění takových operací.

Závěr:

Modely umělé inteligence již dokážou rozpoznávat falešné účty a odhalovat jejich skutečné vlastníky ve značném počtu případů. To ohrožuje anonymitu nejen běžných uživatelů, ale i těch, jejichž bezpečnost závisí na skrytosti. Posílení ochranných opatření může proces zpomalit, ale zatím ne zastaví vývoj technologie.