Amazonoví zaměstnanci používají umělou inteligenci jen k sestavování zpráv, nikoli k dosažení skutečných výsledků.

Jak se generativní umělá inteligence stává „ukazatelem“ výkonnosti zaměstnanců

S rostoucí popularitou technologií generativní umělé inteligence (AI) firmy stále častěji požadují od svých pracovníků, aby prokazovali praktické úspěchy při práci s těmito systémy. V reakci na takový tlak se objevilo nové jev: zaměstnanci zadávají AI nesmyslné úkoly jen kvůli zlepšení své statistiky používání technologie.

Financial Times popisuje situaci v Amazonu

V článku Financial Times se uvádí, jak pracovníci e‑komerčního giganta stále častěji využívají softwarové řešení MeshClaw. Tento agent se připojuje k pracovním nástrojům zaměstnanců a může vykonávat úkoly jménem nich. Někteří z nich jej používají k automatizaci vlastně nepodstatných činností, aby zvýšili svůj osobní rating v oblasti zvládání AI.

Důvod – narůstající tlak ze strany vedení: nyní je více než 80 % vývojářů povinno používat AI každý týden. Pro každého zaměstnance se vede samostatná statistika a ti, kteří zaostávají od cílových ukazatelů, musí tuto skutečnost vysvětlit vedení. Ačkoliv formálně manažeři nemohou hodnotit zaměstnance na základě údajů o používání tokenů AI, v posledních měsících se objevily podezření, že to tak dochází.

V takovém prostředí mají někteří pracovníci Amazonu falešné incentivy: napodobují vysokou aktivitu kvůli osobnímu prospěchu, nikoli kvůli užitku společnosti. To je zvláště důležité pro ty technologické giganty, kteří investují obrovské částky do infrastruktury AI a chtějí ukázat investorům i vedení skutečnou přidanou hodnotu z implementace.

Jak Amazon spravuje data o práci s AI

Amazon plánuje letos vynaložit asi 200 milionů dolarů na kapitálové výdaje. Aby se ujistil, že technologie jsou skutečně využívány, firma posiluje kontrolu nad používáním AI. Nejprve byla publikována skupinová statistika o používání AI zaměstnanci, ale nyní mají přístup k individuálním výsledkům pouze samotní specialisté a jejich přímý nadřízený. Manažerům je formálně zakázáno používat tyto údaje k hodnocení výkonnosti personálu.

Situace v jiných technologických firmách

Financial Times upozorňuje, že podobné zneužívání se pozoruje i u Meta Platforms. MeshClaw, vyvinutý více než 30 specialisty Amazonu, je schopen nahrávat programový kód do produkčních verzí, třídit e‑mailem a interagovat s aplikacemi jako Slack. Mnoho zaměstnanců vyjadřuje obavy z bezpečnosti těchto řešení: AI může generovat chyby a kontrola nad jeho činnostmi zůstává slabá.

Tím pádem rostoucí požadavky na používání generativní AI vedou k vytváření „ukazatelů“ výkonnosti, které někdy sami o sobě stávají cílem, nikoli prostředkem k dosažení skutečných obchodních výsledků.