Kapitán oddělení kybernetické bezpečnosti AI v Anthropic odešel z firmy a přiznal, že „svět je ohrožen“.

Mrinank Sharma opouští Anthropic: dopis kolegům a plány do budoucna

Bývalý vedoucí výzkumného oddělení bezpečnosti umělé inteligence ve společnosti Anthropic, Mrinank Sharma (Mrinank Sharma), na začátku tohoto týdne zveřejnil v síti svůj rozlučkový dopis. V něm vysvětluje důvody odchodu, sdílí úvahy o současných rizicích a popisuje, čím se bude dále zabývat.

Co je napsáno v dopisu
* Úspěchy – Sharma uvádí, že „dosáhl všeho, čeho chtěl“. Mezi zmíněné projekty patří vývoj ochranných mechanismů proti bioterorismu pomocí AI a výzkum vlivu neuronových sítí na společnost.

* Důvod odchodu – autor dospěl k závěru, že je čas jít dál. Neustále přemýšlel o „nebezpečí, které může nést AI, biologické zbraně a řetěz souvisejících krizí, které se odehrávají právě teď“. Podle něj se blížíme k prahu, po kterém by měla moudrost růst proporčně naší schopnosti ovlivňovat svět; jinak nás čekají nepředvídatelné následky.

* Kulturní bariéry – Sharma zdůrazňuje, jak obtížné je zachovávat hodnoty v podmínkách tlaku. Viděl to jak uvnitř sebe, tak uvnitř společnosti, kde někdy musíte obětovat něco důležitého kvůli vnějšímu vlivu, a také ve společnosti obecně.

* Budoucí plány – po odchodu má v úmyslu pracovat na činnosti odpovídající svým principům a také studovat poezii a další kreativní směry.

Co se děje v Anthropic
* Ve firmě již odešli několikanásobní vedoucí vývojáři, což zesiluje vlnu personálních změn.

* Anthropic vede jednání o přilákání dalších investic. Pokud se obchod úspěšně uzavře, může tržní hodnota vzroste až na 350 mld USD.

* V minulém týdnu byla spuštěna nová verze modelu Claude Opus 4.6. Zlepšuje kancelářskou produktivitu a efektivitu programování, zvyšuje kontextové okno pro práci s velkými dokumenty a podporuje složitější úkoly.

Kde najít dopis
Celý text rozlučkového dopisu Sharmy je publikován v článku Business Insider. To poskytne podrobnější pohled na jeho myšlenky a motivaci.