OpenAI zlikvidovala dva oddělení bezpečnosti AI kvůli zisku, hlásí bývalý zaměstnanec startupu

Svědectví bývalých zaměstnanců OpenAI v soudu ohledně případu Elona Muska

Ve federálním soudu v Oaklandu (Kalifornie) dva bývalí zaměstnanci OpenAI podali svědecké výpovědi v rámci žaloby Elona Muska proti společnosti. Tvrdí, že snaha o komercializaci produktů umělé inteligence poškozila závazky startupu ohledně bezpečnosti a že generální ředitel Sam Altman systematicky zaváděl představenstvo do omylu.

1. Případ Rosie Campbell
- Období práce: 2021‑2024 v týmu přípravy na AGI (Artificial General Intelligence).

- Klíčový argument: OpenAI se změnila z výzkumné organizace na komerční strukturu. Tým, kterému řídila, byl rozpuštěn, a skupina *Super Alignment* – odpovědná za dodržování lidských hodnot AI – byla uzavřena.

- Příklad porušení bezpečnosti: Microsoft spustil GPT‑4 v Indii prostřednictvím Bing bez schválení Oddělení bezpečnosti nasazení (DSB) OpenAI.

- Reakce právníků OpenAI: V křížovém výslechu přiznala Campbell, že „podle jejího předpokladu“ je přístup k bezpečnosti ve společnosti stále lepší než u xAI – AI společnosti Muska, kterou SpaceX zabsorbuje na začátku roku 2026.

2. Historie propuštění Altmana
- Důvody: V roce 2023 představenstvo dočasně propustilo Altmana po stížnostech zaměstnanců o stylu vedení. Mezi kritiky patřili bývalý hlavní vědecký pracovník Ilya Sutskever a technický ředitel Mira Murati, kteří tvrdili, že generální ředitel vyhýbal konfliktům.

- Tasha McColli (člen představenstva v té době) popsal, jak Altman zaváděl představenstvo do omylu:

- Lhaní o úmyslu propustit Helen Toner (autorku kritické bezpečnostní analýzy).

- Neinformování představenstva o spuštění ChatGPT na veřejný přístup.

- Skrývání možných konfliktů zájmů.

- Výsledek: Představenstvo ztratilo důvěru, že získané informace jsou dostatečné pro vyvážená rozhodnutí.

3. Důsledky a reakce
- Propuštění Altmana souběžovalo s nabídkou odkupu akcií zaměstnancům.

- Zaměstnanci OpenAI podpořili bývalého CEO, a Microsoft usiloval o obnovení předchozího pořádku. Nakonec se představenstvo ustoupilo a podporovatelé Altmana odešli do odstupňování.

- Musk využil tento incident jako důkaz toho, že přeměna OpenAI z výzkumného projektu na velkou soukromou společnost porušila „nepovědní smlouvu“ zakladatelů.

4. Odborný názor
David Schier (bývalý dekán právnické fakulty Columbia University a pozvaný expert Muska) zdůraznil:

> *„OpenAI tvrdila, že bezpečnost je klíčovou součástí její mise a především než příjem. Pokud něco musí projít bezpečnostní kontrolou, měla by to nastat. Důležitá je procedura.“*

5. Postoj Tashi McColli
McColli považuje selhání řízení v OpenAI za zdůraznění potřeby státní regulace AI:

> *„Pokud rozhodnutí přijímá jeden generální ředitel a na střeďu jsou veřejné zájmy – je to extrémně neúspěšná konstrukce.“*

Stručně: Bývalí zaměstnanci otevřeli soud, jak komerční orientace a manipulace ze strany vedení poškozily závazky OpenAI ohledně bezpečnosti. Jejich výpovědi posilují argumenty Muska o tom, že společnost porušila vlastní principy, a podporují volání po přísnější regulaci umělé inteligence.