OpenAI vlastně zaostávalo před Pentagonem v používání umělé inteligence pro sledování a vojenské aktivity

OpenAI a Pentagon: jak se změnila dohoda o AI

*OpenAI uzavřela nové dohodu s Ministerstvem obrany USA (Pentagonem), nahrazující Anthropic, ale v reakci na veřejné obavy vedoucí společnosti Sam Altman uvedl, že podmínky byly „stanoveny“ podle bezpečnostních principů. Ve skutečnosti situace vypadá jinak, jak uvádí The Verge.*

1. Co Altman slíbil
- Dva klíčové požadavky:

1) zákaz masivního vnitřního sledování;

2) odpovědnost člověka za použití síly, včetně autonomních zbrojených systémů.

- Pentagon souhlasil „začlenit“ tyto body do zákonů a politiky, a OpenAI – do smlouvy.

2. Proč zůstávají pochybnosti
- Na sociálních sítích se objevily otázky: zda skutečně bylo dosaženo dohody o dodržování omezení?

- Experti tvrdí, že Pentagon neudělil úplné odmítnutí. Dohoda obsahuje formulaci „jakékoli zákonné použití“, která otevírá prostor pro širokou škálu akcí.

3. Co konkrétně se diskutovalo
Strana Akce Klíčový bod Pentagon Sbírání a analýza velkých objemů dat o občanech USA Nezastavil se od touhy používat data ve velkém rozsahu OpenAI Omezení používání systému pro masové sledování Tvrdil, že „není možné sbírat nebo analyzovat data Američanů v obrovských, neomezených objemech“

- Strany se neshodly na tom, jak interpretovat termín *technicky legální*.

- V USA se tento pojem postupně rozšiřuje a nyní zahrnuje programy masového sledování.

- OpenAI tuto interpretaci odmítla.

4. Právní rámce
- Hlavní normy:

- Čtvrtá dodatková úprava Ústavy;

- Zákon o národní bezpečnosti (1947);

- Zákon o zahraniční špionážní a sledovací činnosti (1978);

- Výkonný příkaz č. 12333;

- Vnitřní směrnice Pentagonu o vnější špionáži.

- Po 9/11 americké zpravodajské služby zesílily sledování, tvrdíc, že vše je v rámci zákona.

- Snowden (2013) odhalil rozsáhlé sbírky telefonních hovorů a dat od Verizon, Microsoft, Google, Apple. Příkaz 12333 umožňuje zachytávat data mimo USA i o občanech.

5. Zpráva dialogu
Společnost Postoj Anthropic (Dario Amodei) Zákon zatím neobsahuje všechny možnosti AI pro masové sledování. OpenAI (Sam Altman) Smlouva je omezená platnými zákony; při nových normách zůstanou formulace stejné.

- Experti poznamenávají, že používané slova („neomezený“, „obecný“, „otevřený“) nevyvolávají jasný zákaz a mohou umožnit široké využití AI v rozpoznávání.

6. Závěry
- Strany: OpenAI tvrdí dodržování bezpečnostních principů, ale Pentagon si zachovává právo na rozsáhlé sledovací možnosti.

- Právo: Dohoda se opírá o existující zákony, avšak jejich interpretace může změnit realitu použití AI v obraně.

- Veřejná diskuse: Otázky o transparentnosti a odpovědnosti zůstávají otevřené.