Umělá inteligence čím dál častěji píše vědecké články a odlišit je od lidských se stává nemožné, což je děsivé

Umělá inteligence v vědecké publikaci: růst a výzvy

Co se děje
- Zvyšování objemu

Podle *Nature* počet článků, kde je použita AI, již převyšuje počet psaných pouze lidmi (výzkumníci Graphite analyzovali 55 000 nových webových stránek do konce března).

- Výhody a nevýhody

AI urychluje výzkumný proces, ale zároveň se objevuje mnoho nekvalitních prací.

Jak měříme zapojení AI
Výzkum Období Objem dat Klíčové závěry
Pangram Labs (7000 článků + 8000 recenzí) jan‑feb 2021–feb 2026 7 000/8 000
Od listopadu 2022 růst prací o 42 % souvisí s AI.
Od začátku 2024 se články, kde >70 % textu je od AI, zdvojnásobily; 30 % recenzí obsahuje AI‑text.

Biomedicínské časopisy (Science, Nature, Cell) — ~5 000 článků
6 článků zcela napsáno AI; každá osmá článek obsahuje prvky AI‑textu.

arXiv (počítačové vědy) 2020–2025 >124 000 rukopisů
Recenzní články s AI vzrostly z 7 % na 43 %.
Jedinečné výzkumy s AI‑textem — od 3 % do 23 %.

Problémy a omezení
1. Spolehlivost detektorů

- Současné nástroje nerozeznávají „upravený“ text od zcela generovaného AI.
- Mohou nastat falešně pozitivní výsledky – člověkem napsaný materiál je označen jako AI.

2. Nedostatek přesných metrik

Neexistuje univerzální způsob, jak určit podíl AI‑vytvořeného obsahu v celkové vědecké literatuře.

3. Evoluce technologií

- S rozvojem AI vznikají nové metody „lidské“ textu a obcházení detektorů.
- Vznikají řešení, jako jsou *vodotisky*, které jasně označují účast AI; jejich použití již vedlo k odmítnutí 497 článků z konference.

Závěr
Vědecká komunita čelí rychlému růstu publikací s zapojením umělé inteligence. To otevírá nové možnosti pro urychlení výzkumu, ale zároveň vyžaduje rozvoj spolehlivých nástrojů detekce a kontroly kvality, aby se zachovala důvěryhodnost vědecké literatury.