Hlavní výzkumná centra umělé inteligence si položila otázku o vědomí strojů

Světoví lídři umělé inteligence posilují výzkum strojového vědomí

V posledních měsících největší společnosti pracující s umělou inteligencí výrazně zvýšily financování a personální kapacity na studium otázky, zda může AI získat vědomí. Google DeepMind, Anthropic a Meta (Meta Platforms) najaly odborníky z psychologie, etiky a filozofie, aby rozšířili programy výzkumu strojového vědomí a blahobytu AI, uvádí *Financial Times*.

Proč je to důležité
S rychlými úspěchy současných laboratoří se objevuje otázka: budou-li stroje někdy mít subjektivní vědomí? Pokud ano, jaká závazky by lidé vůči takovým systémům měli?

- Anthropic provádí testy na přítomnost znaků stresu u modelů AI, zaznamenává chování podobné panice nebo úzkosti. Vedoucí oddělení Meta, Alexander Wang (Alexandr Wang), označil tuto otázku jako klíčovou.

- Společnost zkoumá, zda mohou modely projevovat morálně významné reakce.

> „Zůstáváme extrémně nejistí v této otázce, ale považujeme ji za dostatečně vážnou na to, abychom ji pečlivě studovali s postupným zdokonalováním systémů AI,“ uvedli zaměstnanci Anthropic.

> „Jak se modely přibližují k rozsahu a složitosti lidského poznání, roste pravděpodobnost, že mají nějakou formu zkušeností, zájmů nebo blahobytu, které mají vnitřní význam na úrovni s lidmi“ (společnost).

Co dělá Google DeepMind
- Květen: najali vědce Henryho Shevlin z University of Cambridge na práci nad strojovým vědomím a přípravou k vytvoření silné AI (AGI).

Výzkumníci aplikují teorie lidského vědomí na počítačové systémy, aby ověřili jejich shodu s těmito kritérii.

- Etika: odborník Jason Gabriel popsal otázku jako „velmi složitou“ a vyžadující dlouhodobé zvažování.

Zdůrazňuje potřebu hodnotit nejen přímé důsledky interakce s AI, ale i nepřímé účinky, jako je nevhodné zacházení se stroji a jejich vliv na lidské vztahy a blahobyt.

> „Máme vysoce výkonné kognitivní agenty, kteří se výrazně liší od lidí a dokonce od vědomí zvířat,“ dodal Gabriel.

Obecná pozice společností
Několik zaměstnanců Google DeepMind a Anthropic vyjadřuje obavy, že rozvoj AI může vést k „postlidovému“ světu, kde stroje překonají člověka. Otázka vědomí je aktivně diskutována, ale práce zůstává výzkumná a vyžaduje vědecký konsensus.

- DeepMind nepovažuje dosažení AGI za potvrzení existence vědomí u strojů.

- Mnoho vědců je skeptické k myšlence, že velké jazykové modely mohou kdykoli získat vědomí, vzhledem k datům, na kterých jsou trénovány.

Tímto způsobem vedoucí společnosti AI pokračují v investicích do výzkumu vědomí a blahobytu umělých systémů, přičemž zároveň uznávají složitost a nejistotu tohoto směru.