Nadella vyzval na externé kontroly AI a možnosť systémy okamžite zastaviť
Šéf Microsoftu Satya Nadella navrhol, aby pokročilé AI systémy neboli dôveryhodné samy osebe, ale podliehali externým kontrolám, auditným záznamom a zásahu oprávnenej osoby.
Značka AI bezpečnosť
Anthropic aktualizuje pravidlá Claude pre kampane, rizikové rozhodnutia aj hardvér
Aktualizovaná politika Anthropic pre Claude začne platiť 12. novembra 2026. Prináša presnejšie obmedzenia pre klamlivé kampane, sledovanie, vysokorizikové odporúčania a systémy prepojené s fyzickým hardvérom.
NEAR Intents uvádza návrat celej sumy po exploite za 3,8 milióna USD
NEAR Intents oznámil, že po exploite sa vrátila celá odcudzená suma približne 3,8 milióna USD. Verejne však zatiaľ nie sú známe kompletné technické detaily incidentu ani totožnosť zodpovednej osoby.
OpenAI načrtla safety cases pre tréning hraničnej AI
OpenAI zverejnila počiatočné usmernenia pre bezpečnostnú dokumentáciu, ktorá má pred pokračovaním pokročilého RL tréningu zhromaždiť argumenty, merania a kontroly rizík.
OpenAI zverejnila šesť správ o znepokojujúcom správaní modelov
OpenAI publikovala šesť správ z tréningu a hodnotenia modelov a predstavila interný rámec na oznamovanie podobných prípadov.