🇬🇧 Odvážná sázka na umělou inteligenci udrží Spojené království v popředí vědeckých a výzkumných průlomů od zdravotnictví až po lepší veřejné služby ↗
Hlavní britský veřejný poskytovatel finančních prostředků na výzkum (UKRI) zveřejnil svou první strategii zaměřenou na umělou inteligenci, v níž v podstatě argumentuje za více umělé inteligence ve výzkumu, více dovedností v oblasti umělé inteligence, více infrastruktury umělé inteligence – tedy za celou škálu dalších.
Skládá se z velkých finančních prostředků zaměřených na umělou inteligenci a dalších specifických investic, jako je modernizace superpočítače DAWN v Cambridge a podpora práce „AI pro vědu“ (není překvapením, že se objevují i léky). Zní to jako „dělat základy, ale také dosahovat výsledků“... což je buď spíše nálada, nebo lano, nebo obojí.
🛡️ OpenAI a Microsoft se připojují k mezinárodní koalici Spojeného království na ochranu rozvoje umělé inteligence ↗
Společnosti OpenAI a Microsoft slíbily nové financování projektu Alignment Project britského Institutu pro bezpečnost umělé inteligence (AI Security Institute) – fond pro nezávislý výzkum v oblasti algoritamu se zvětšil a prezentují ho jako budování důvěry, nikoli jen jako útok na nerdy.
Důležité je poznamenat strukturu: mezinárodní koalice, několik investorů a várka grantů rozdělovaných napříč řadou zemí. Je to „sladění jako ekosystém“, nikoli „sladění jako tajná přísada jedné laboratoře“... i když laboratoře si stále drží většinu té přísady v rukou.
🧠 Pokrok v nezávislém výzkumu v oblasti sladění umělé inteligence ↗
Společnost OpenAI vyčlenila 7,5 milionu dolarů na projekt AISI Alignment Project ve Spojeném království – peníze jsou určeny konkrétně pro nezávislé týmy provádějící bezpečnostní/zarovnávací práce mimo hraniční laboratoře.
Prezentace je docela přímočará: hraniční laboratoře sice dokážou provádět zarovnání s důrazem na přístup k modelům, ale obor také potřebuje svérázné, rozmanité a nekorelované nápady od externistů (jejich slova jsou sice hezčí, ale chápete). Pod tím vším se skrývá také jasný pohled na „iterativní nasazení“ – dodávat, učit se, zdokonalovat… opakovat… nebo se to alespoň zdá.
💳 Ministerstvo financí vydává dva nové zdroje, které pomohou s využitím umělé inteligence ve finančním sektoru ↗
Americké ministerstvo financí zrušilo dva praktické nástroje pro finance: sdílený lexikon umělé inteligence (aby se všichni přestali hádat o významu slov) a rámec pro řízení rizik s využitím umělé inteligence ve finančních službách, který přizpůsobuje přístup NIST realitě bankovnictví.
Rámec je založen na řízení založeném na riziku a je dostatečně podrobný, aby jej mohly používat týmy pro dodržování předpisů, regulační orgány a dodavatelé, aniž by si každý musel paralelně vymýšlet vlastní definice. Je to takový prozaický dokument, který tiše formuje to, co se schvaluje… což je v jistém smyslu mocné jako kartotéka.
🪖 Technický ředitel Pentagonu říká, že pro Anthropic není „demokratické“ omezovat vojenské využití umělé inteligence Claude ↗
Vedoucí představitel technologického oddělení Pentagonu veřejně oponoval omezení vojenského využití Claude společností Anthropic a označil za „nedemokratické“, aby jedna společnost stanovovala další pravidla nad rámec zákonů a předpisů.
Toto se odehrává v širším shonu, kdy několik společností zabývajících se hraničními modely má obranné kontrakty na úpravu genAI pro vojenské kontexty – a bod tření je přesně takový, jaký byste očekávali: firemní politika používání versus chuť vlády na operační využití. Celá věc působí jako podání ruky, které se uprostřed fotografie mění v páku.
Často kladené otázky
Co je strategie UKRI pro umělou inteligenci a proč je důležitá?
První specializovaná strategie UKRI pro umělou inteligenci argumentuje pro další zapojení umělé inteligence do výzkumného procesu – dovedností, infrastruktury a praktického nasazení. Rámec zní „dělat základy, ale také dodávat výsledky“, což signalizuje tlak na přeměnu investic do výzkumu ve veřejně prospěšné věci. Poukazuje také na celoplošný přístup: nejen modely financování, ale i výpočetní technika, lidé a cesty k přijetí, které zajišťují udržení pokroku.
Co vlastně umožňuje modernizace superpočítače DAWN v Cambridge?
Modernizace superpočítače DAWN v Cambridge je vnímána jako infrastrukturní krok, který podporuje ambicióznější práci v oblasti umělé inteligence v celém britském výzkumu. V praxi to obvykle znamená větší kapacitu pro školení, hodnocení a rozsáhlé experimenty, které menší zařízení jen s obtížemi efektivně provozují. V mnoha vývojových procesech silnější sdílené výpočetní prostředky zmírňují úzká hrdla univerzit a urychlují proces od prototypů k publikovatelným a testovatelným výsledkům.
Co znamená „AI pro vědu“ v kontextu strategie AI ve Spojeném království?
„Umělá inteligence pro vědu“ je prezentována jako využití metod umělé inteligence k urychlení objevování, přičemž objevování léků je explicitně ověřeno. V praxi to často zahrnuje použití umělé inteligence k vytváření hypotéz, prohledávání velkých designových prostorů nebo stanovování priorit experimentů. Důraz naznačuje touhu po výsledcích, které jasně přesahují akademickou sféru – nové metody, kratší cykly a aplikace, které se propojují se zdravotnictvím a veřejnými službami.
Co je projekt sladění britského institutu pro bezpečnost umělé inteligence (AI Security Institute) a kdo ho financuje?
Projekt Alignment Project britského Institutu pro bezpečnost umělé inteligence (AI Security Institute) je popisován jako mezinárodní koaliční struktura, která podporuje nezávislý výzkum v oblasti algoritamu, do kterého přispívá více investorů. OpenAI a Microsoft jsou zdůrazněny jako poskytovatelé nových finančních prostředků, které jsou koncipovány jako budování důvěry a podpora ekosystému. Model je „alignment jako ekosystém“, kdy granty plynou do týmů napříč zeměmi, spíše než aby se práce soustředila v rámci hraničních laboratoří.
Proč OpenAI investovala 7,5 milionu dolarů do nezávislého výzkumu sladění umělé inteligence?
Logika OpenAI je taková, že hraniční laboratoře mohou provádět bezpečnostní práci, která závisí na přístupu k hlubokému modelu, zatímco nezávislé týmy mohou přispívat rozmanitými, nekorelovanými nápady, které by laboratoře mohly přehlédnout. Důraz je kladen na rozšíření pole působnosti nad rámec „tajné přísady jedné laboratoře“. Článek také naznačuje pohled na „iterativní nasazení“ – nasadit, poučit se ze zpětné vazby z nasazení, zpevnit systémy a poté opakovat.
Jak zdroje amerického ministerstva financí zaměřené na umělou inteligenci ovlivňují správu a řízení umělé inteligence ve finančním sektoru?
Ministerstvo financí USA vydalo sdílený lexikon umělé inteligence a rámec pro řízení rizik v oblasti umělé inteligence ve finančních službách, adaptovaný na myšlení ve stylu NIST. Záměrem je omezit rozpínání definic a poskytnout týmům pro dodržování předpisů, regulačním orgánům a dodavatelům společný postup. V mnoha organizacích dokumenty, jako jsou tyto, formují to, co se v praxi schvaluje, protože standardizují očekávání ohledně kontrol, dokumentace a rozhodování na základě rizik.