Anthropic odmítla požadavek Pentagonu na bezpodmínečné vojenské využití umělé inteligence, i když byly poskytnuty varování

Krátké shrnutí

* Situace:

Společnost Anthropic odmítla Ministerstvu obrany USA (MoD) poskytnout neomezený přístup k jejím AI‑modelům, i když hrozí ztráta kontraktu ve výši 200 milionů dolarů.

* Kontext:

Během schůzky v Bílé domě minister obrany Pete Hegset dal Anthropic do konce pracovního dne pátku čas na přemýšlení o nabídce, ale již ve čtvrtek společnost oznámila odmítnutí.

* Postoje stran:

- MoD požaduje úplný přístup k AI‑technologiím pro volné využití v vojenských účelech.
- Ostatní velcí hráči (OpenAI, Google, xAI od Maska) souhlasili s tím, že Pentagon může používat jejich systémy „pro všechny zákonné účely“ na neodlišených sítích a pracují na dohodách o odlišených sítích.

* Reakce Anthropic:

V prohlášení generálního ředitele Dario Amodei (Dario Amodei) bylo zdůrazněno, že společnost aktivně spolupracuje s vojenskými strukturami a věří v existenciální význam AI pro ochranu USA. Nicméně nikdy nevyjádřila odpor vůči konkrétním vojenským operacím a považuje za pravděpodobné, že AI může narušovat demokratické hodnoty pouze ve velmi omezených případech.

Amodei vyzdvihl dvě „červené linky“:

1) absence masivního sledování občanů USA;
2) zákaz vývoje smrtícího autonomního zbraně (nebo jakékoli zbraně, která může ničit cíle bez lidské kontroly).

Společnost zatím není připravena používat plně autonomní systémy.

* Potenciální důsledky:

Pentagon již požádal velké obranné dodavatele o posouzení závislosti na modelu Claude. Pokud MoD považuje Anthropic za „riziko pro řetězec dodávek“, může to vést k klasifikaci společnosti jako hrozby národní bezpečnosti, což obvykle platí pro čínské a ruské firmy.

Pentagon prohlásil, že je připraven požadovat potvrzení od všech dodavatelů a subdodavatelů, že nepoužívají „anthropogenní“ modely. V případě odmítnutí služeb Anthropic je společnost připravena zajistit hladký přechod k jinému dodavateli bez výpadků v vojenských operacích.

* Legislativa:

Pentagon zvažuje uplatnění „Zákona o obranné výrobě“ z roku 1950, který umožňuje federální vládě zasahovat do činnosti soukromých společností za účelem splnění požadavků MoD.

* Klíčová zpráva Anthropic:

Hrozba ze strany Ministerstva nezmění postoj společnosti: nemohou čistým svědomím vyhovět požadavkům na úplný přístup. V případě ukončení spolupráce je Anthropic připravena podpořit hladký přechod a pokračovat v poskytování svých modelů na dohodnutých podmínkách.

Závěr:

Anthropic zůstává věrná svým zásadám důvěrnosti a omezení ve vojenském využití AI, i když hrozí ztráta významného kontraktu. Ministerstvo obrany na druhé straně usiluje o úplný přístup k nejmodernějším technologiím od všech klíčových dodavatelů. Možné řešení zahrnují možné zásahy federální vlády nebo přechod k alternativním poskytovatelům.