OpenAI jmenoval „hlavu pro přípravu“, která bude dohlížet na bezpečnost umělé inteligence

OpenAI jmenoval nového vedoucího bezpečnosti umělé inteligence

V souvislosti se zvyšujícím se počtem otázek ohledně bezpečného používání AI společnost OpenAI oznámila nového člena týmu – Dylana Skandinaro v pozici *Head of Preparedness* (vedoucí připravenosti).

Kdo je Dylan Skandinaro?
| Období | Firma | Role |
|--------|-------|------|
| květen 2023 – únor 2024 | Anthropic | Vedoucí projektů bezpečnosti AI |
| září 2022 – květen 2025 | DeepMind (Google) | Specialist na syntetická data pro trénink Gemini |
| do 2022 | Palantir, Unity Technologies, Everyday Robots | Různé pozice v oblasti strojového učení a vývoje softwaru |

Skandinaro je známý tím, že na předchozích pracovištích řešil podobné úkoly snižování rizik při vývoji AI‑modelů.

Co znamená nové jmenování?
* Role: Vedoucí pozice v týmu „připravenosti“ – zodpovědný za přípravu a zavedení opatření, která umožní vyvíjet silné modely bez ohrožení uživatelů.
* Podmínky: Odměna 550 000 USD ročně plus akcie OpenAI.
* Kontext: Od roku 2023 v společnosti funguje tým připravenosti, který dříve vedl Alexander Madrid, odborník z MIT.

Jak vidí situaci ředitel OpenAI
Generální ředitel Sam Altman uvedl, že s urychleným vývojem modelů bude společnost čelit novým a vážnějším rizikům. Zdůraznil:

> „Budeme pracovat na velmi silných modelech. To vyžaduje odpovídající opatření k zajištění dalšího poskytování velkých přínosů.“

Altman projevil důvěru v kompetence Skandinaro:

*„Je nejlepší kandidát na tuto roli ze všech lidí, které jsem kdy potkal“, – řekl.*

Přidal, že díky novému vedoucímu se tým bude moci soustředit na dlouhodobou bezpečnost a „bude spát klidněji“.

Co se od Skandinaro očekává?
Skandinaro sám přiznal, že rychle se rozvíjející AI‑modely mohou způsobit „extrémní a dokonce nevratné škody“. Proto před ním stojí úkol:

* vyvinout strategie minimalizace rizik;
* zavést praktiky bezpečného tréninku a provozu modelů;
* koordinovat úsilí celého týmu OpenAI v této oblasti.

Závěr
OpenAI rozšiřuje svou strukturu bezpečnosti přidáním zkušeného odborníka z předních firem odvětví. Nové jmenování zdůrazňuje závazek společnosti k odpovědnému vývoji AI a připravenosti na možné výzvy budoucnosti.