Aktualizované: Anthropic a Accenture oznamujú partnerstvo na hodnotenie hraničnej AI
Anthropic oznámil partnerstvo s Accenture na externom hodnotení a red-teamingu hraničných AI modelov. Prístup hodnotiteľov má byť porovnateľný so zamestnancami firmy, pravidlá nezávislosti však ešte nie sú ustálené.
Externé hodnotenie AI má podľa Anthropic priniesť testovanie a red-teaming hraničných modelov priamo vo vývojárskej firme. Anthropic partnerstvo oznámil 18. septembra. Na strane Accenture ho má viesť Faculty, jej špecializovaná AI divízia.
Podľa Anthropic pôjde o takzvané embedded evaluation: externí hodnotitelia majú dostať prístup porovnateľný s prístupom zamestnancov spoločnosti. Majú tak posudzovať pokročilé modely a ich bezpečnostné riziká v prostredí, v ktorom vznikajú a testujú sa.
Oznámenie je konkrétnou realizáciou jednej časti skoršieho návrhu šéfa Anthropic Daria Amodeiho. Ten vyzýval na externé hodnotenie najpokročilejších systémov, koordináciu laboratórií a medzinárodnú spoluprácu. Nové partnerstvo však nepredstavuje záväznú reguláciu v USA ani medzinárodnú dohodu s Čínou.
Externé hodnotenie AI má mať kapacitu na päť rokov
Anthropic uviedol, že obe firmy plánujú počas piatich rokov investovať do hodnotiacej kapacity najmenej po 1 miliarde dolárov. Konkrétne parametre práce, rozsah prístupu či spôsob zverejňovania zistení firma v oznámení podrobne neurčila.
Spoločnosť zároveň otvorene pripúšťa, že pravidlá prístupu hodnotiteľov, ich reportovania a dlhodobého financovania ešte nie sú ustálené. Prácu Accenture bude priamo financovať Anthropic. Preto zatiaľ nie je nezávisle potvrdené, do akej miery bude tento model v praxi fungovať ako nezávislé hodnotenie.
Práve tieto otázky boli súčasťou diskusie po Amodeiho výzve na spomalenie rozvoja hraničnej AI. Peking predtým verejne kritizoval konfrontačný rámec jeho návrhov a vyzval na spoločnú globálnu správu AI. Oznámené partnerstvo sa sústreďuje na hodnotenie vo firme, nie na riešenie medzinárodnej koordinácie.
Dobrovoľný model s dosiaľ neustálenými pravidlami
Partnerstvo posúva Anthropic od všeobecnej výzvy k oznámenému operačnému modelu. Zostáva však dobrovoľné a financované samotnou firmou. Pravidlá určujúce prístup externých hodnotiteľov, spôsob oznamovania zistení a rozsah zverejňovania výsledkov zatiaľ nie sú ustálené.
Nie je potvrdené, že sa k porovnateľnému režimu pripoja OpenAI, Google, Meta alebo ďalšie popredné laboratóriá. Neistý zostáva aj širší spor o federálne štandardy v USA. Sekundárne správy o tom, že niektorí lídri odvetvia mali zablokovať návrh nezávislého regulátora, nie sú potvrdené primárnymi zdrojmi.
Čo bude dôležité sledovať
- podmienky prístupu Faculty a Accenture k tréningu modelov, bezpečnostným rozhodnutiam a incidentom,
- či Anthropic zverejní metodiku, výsledky hodnotení alebo mechanizmus nezávislého reportovania,
- oznámené piloty s organizáciou METR a ďalšími neziskovými hodnotiteľmi,
- reakcie ďalších AI laboratórií a prípadný návrh federálnych štandardov v USA.
Zdroje
- Anthropic — Partnering with Accenture on embedded evaluation – Anthropic potvrdzuje partnerstvo s Accenture, priamy spôsob financovania, plánované hodnotiace činnosti, deklarované investície a nevyriešené otázky štandardov.
- Dario Amodei — We Must Pace the Frontier – Primárny text pôvodného trojkrokového návrhu vrátane embedded externých hodnotiteľov, koordinácie laboratórií a medzinárodnej spolupráce.
- The Verge — The AI regulation smackdown isn’t over – Dokumentuje pokračujúci spor medzi časťou AI odvetvia, Bielym domom a firmami o rozsahu dobrovoľných a štátnych pravidiel; tvrdenie o zablokovaní odvetvového regulátora zostáva sekundárne pripísané WSJ.
- Associated Press — Slowing down AI: What would that look like and how possible is it? – Nezávisle približuje Amodeiho návrh, podporu niektorých lídrov a nevyriešené výhrady k nezávislosti externých hodnotiteľov.
Overené a aktualizované: 19. 09. 2026 15:24
