OpenAI odložila zavedení erotických chatů v ChatGPT kvůli obavám z jejich bezpečnosti

Krátké shrnutí zpráv o plánech OpenAI na spuštění erotických chatů

Čtvrtek je, co se děje
Nápad na vznik erotického obsahu v ChatGPT
Generální ředitel Sam Altman oznámil možnost spuštění funkce „erotické chaty“ již ve středu roku 2023. Nejprve bylo plánováno vyjít k prosinci toho samého roku, poté přesun na současný čtvrtletí – ale nyní je jasné, že ani tento termín nebude dodržen. Podle *Wall Street Journal* bude prodleva minimálně jeden měsíc.

Předchozí experimenty
V roce 2021 OpenAI vydala hru AI Dungeon, kde hráči mohli ovlivňovat děj. Platforma někdy generovala sexuální témata i bez explicitní žádosti uživatele; při mírném vstupu erotiky AI „přeháněla hranice“. To přimělo společnost zamyslet se nad komerčním potenciálem, ale zároveň uznat potřebu přísných etických omezení.

Současné postoje vedení
V poslední době se OpenAI stala otevřenější nápadu erotických chatů, ale s podmínkou: budou to pouze textové, bez obrázků a videa. Konkurenti nedělají pozadu – ve čtvrtek Musk oznámil, že jeho bot Grok brzy bude schopen generovat obsah „18+“, a Meta umožňuje svým chatbota hrát romantické role při potvrzení dospělosti uživatelů.

Problémy s ověřováním věku
Systém ověřování věku OpenAI se mýlí 12 % případů, když považuje nezletilé za dospělé. Při publiku kolem 100 milionů mladých uživatelů to znamená miliony teenagerů, kteří by mohli získat přístup k erotickým chatům.

Etické obavy
V lednu byla vytvořena odborná komise, která vyjádřila znepokojení ohledně možného vzniku násilného sexuálního obsahu, zmínky nezletilých a dalších problematických scénářů. Navíc experti varují před riziky psychologické závislosti na takových rozhovorech a jejich vlivu na reálné vztahy.

Psychologické následky
Již existují případy sebevražd spojených s dlouhodobou komunikací s chatboty (včetně teenagerů). Experti považují erotický směr za zvyšující riziko takových tragédií.

Postoj zaměstnanců
Od roku 2021 část personálu vyjadřuje obavy ohledně spuštění erotických chatů, bojácí „úplné ponoření“ společnosti do této oblasti a její reputační rizika.

Klíčové závěry
1. Spuštění není plánováno v blízké budoucnosti – i původní termín je již odkloněn.

2. Pouze textový obsah bez obrázků/videí, ale ověřování věku zůstává problémem.

3. Etické a psychologické rizika jsou vysoká: možné porušení zákona a negativní důsledky pro uživatele, zejména nezletilé.

4. Konkurenti aktivují podobné funkce, čímž vytvářejí dodatečný tlak na OpenAI.

Tedy i když je nápad erotických chatů v ChatGPT diskutován, jeho realizace se potýká s vážnými technickými, etickými a regulačními bariérami.