🧬 DeepMind spouští AlphaGenome pro vyhledávání genetických faktorů, které přispívají k onemocněním ↗
Společnost DeepMind představila AlphaGenome, systém umělé inteligence, jehož cílem je předpovídat, jak mutace DNA mění regulaci genů – v podstatě kdy se geny aktivují, kde a jak hlasitě. Dokáže najednou skenovat obrovské úseky DNA, včetně rozlehlých nekódujících oblastí, které se často jeví jako biologická temná hmota.
Návrh je docela přímočarý: rychlejší identifikace mutací, které skutečně ovlivňují riziko rakoviny a komplexní dědičná onemocnění. Pokud to funguje tak, jak se o tom mluví, vědci stráví méně času hádáním a více času testováním správných věcí – což zní zřejmě, ale v podstatě je to celá věc.
🧑💼 Umělá inteligence bude stát pracovní místa, připouští Liz Kendall ↗
Britská ministryně technologií otevřeně prohlásila, že zavedení umělé inteligence povede k úbytku pracovních míst – ne v obvyklém duchu „bude to v pořádku, slibuji“. Poukázala na obavy ohledně pozic pro absolventy v oblastech, jako je právo a finance, a nepředstírala, že by někdo mohl nabídnout nějaké pěkné číslo.
Zároveň se vláda silně zaměřuje na adaptaci: vynakládá velké úsilí na proškolení milionů pracovníků v základních dovednostech v oblasti umělé inteligence s cílem rychleji zavést umělou inteligenci ve Spojeném království. Je to klasické napětí – ano, pracovní místa mizí, ano, pracovní místa se objevují, ne, uprostřed to nebude hladké.
🗞️ Spojené království tlačí na Google, aby webům umožnil odhlásit se z přehledů AI ↗
Britští regulátoři hospodářské soutěže navrhli změny, které by vydavatelům umožnily odhlásit se z používání svého obsahu pro přehledy umělé inteligence od Googlu – nebo k trénování samostatných modelů umělé inteligence – bez toho, aby byli trestáni v běžném hodnocení vyhledávání. Tato část „bez trestu“ zde odvádí velkou práci.
Cílem je znovu vyvážit síly, protože shrnutí umělé inteligence mění způsob, jakým lidé klikají (nebo neklikají). Reakce Googlu byla v podstatě: chování při vyhledávání se mění, zvažujeme více ovládacích prvků, ale nerozdělujeme produkt na neohrabaně fragmentovanou verzi sebe sama… což je sice fér, ale také pohodlné.
🛡️ Ochrana vašich dat, když agent umělé inteligence klikne na odkaz ↗
OpenAI podrobně popsala specifické bezpečnostní riziko pro agenty: únik dat na základě URL – kdy útočník oklame umělou inteligenci a přiměje ji načíst URL, která nenápadně vloží soukromé informace do řetězce dotazu. I když model tajemství nikdy „neřekne“, samotný požadavek ho může uniknout. Nepříjemné a odzbrojujícím způsobem technologicky nenáročné.
Jejich zmírnění spočívá v jednoduchém pravidle s ostrými hranami: agenti by měli automaticky načítat pouze URL adresy, které jsou již veřejné a o jejichž existenci je známo prostřednictvím nezávislého webového indexu. Pokud odkaz není ověřen jako veřejný, systém by měl zpomalit a vrátit uživateli kontrolu pomocí varování – záměrné tření, ale v dobrém slova smyslu.
🇪🇺 Další kapitola pro umělou inteligenci v EU ↗
Společnost OpenAI zveřejnila plán zaměřený na EU, který řeší problém „převisu schopností“ – modely dokážou více, než k čemu je lidé a firmy v současnosti používají, a tato mezera hrozí nerovnoměrným ziskem v jednotlivých zemích. Je to jako vlastnit závodní auto a jezdit s ním jen do obchodu na rohu… až na to, že obchod na rohu je celá vaše ekonomika.
Vedle rétoriky existují i konkrétní kroky: program zaměřený na školení tisíců evropských malých a středních podniků v oblasti umělé inteligence, grant vázaný na výzkum bezpečnosti a blahobytu mládeže a rozšířený přístup „spolupráce s vládami“. Je to zčásti politické memorandum, zčásti kampaň za přijetí – a ano, to vše se do sebe stírá.
🔐 Riziko umělé inteligence se setkává s kybernetickou správou: Návrh profilu kybernetické umělé inteligence od NIST ↗
Nový návrh profilu od NIST (na základě analýzy článku z právnické firmy) se zaměřuje na to, jak by měly organizace začlenit umělou inteligenci do kybernetické správy – a to jak zabezpečením samotných systémů umělé inteligence, tak i jejím využitím ke zlepšení kybernetické obrany. Dobrovolnost je na papíře dobrovolná, ale „dobrovolnost“ se časem může stát očekávanou.
Návrhové skupiny se zabývají tématy, jako je zabezpečení komponent umělé inteligence a nasazení obrany s využitím umělé inteligence – včetně zohlednění dodavatelského řetězce a automatizace v pracovních postupech reakce na hrozby podobné agentům. Cílem je: zacházet s umělou inteligencí jako s novým útočným povrchem a novou sadou nástrojů a nepředstírat, že se tyto prvky vzájemně ruší.
Často kladené otázky
Co je AlphaGenome od DeepMind a jaký problém se snaží vyřešit?
AlphaGenome je systém umělé inteligence, o kterém DeepMind tvrdí, že dokáže předpovědět, jak mutace DNA ovlivňují regulaci genů – kdy se geny aktivují, kde se to stane a jak silně. Je navržen tak, aby skenoval velmi velké úseky DNA najednou, včetně nekódujících oblastí, které je notoricky obtížné interpretovat. Cílem je pomoci vědcům zjistit, které mutace s největší pravděpodobností způsobují onemocnění, aby se laboratorní testy mohly soustředit na nejslibnější stopy.
Jak by AlphaGenome mohl pomoci vědcům rychleji najít genetické faktory, které přispívají k rozvoji onemocnění?
V mnoha genetických pracovních postupech je úzkým hrdlem zmenšování obrovských seznamů variant na ty několik, které věrohodně mění genovou aktivitu. AlphaGenome slibuje omezit tyto dohady předpovídáním, jak by specifické mutace mohly změnit regulaci napříč dlouhými sekvencemi DNA. Pokud se tyto předpovědi potvrdí, týmy mohou upřednostnit experimenty zaměřené na varianty s největší pravděpodobností spojené s rizikem rakoviny nebo komplexními dědičnými onemocněními, a strávit tak méně času na slepých uličkách.
Opravdu bude přijetí umělé inteligence stát pracovní místa ve Spojeném království a které pozice jsou nejvíce ohroženy?
Britská ministryně technologií Liz Kendallová uvedla, že zavádění umělé inteligence povede k úbytku pracovních míst, a zdůraznila obavy ohledně pozic, které absolventi potřebují k nástupu do zaměstnání. Konkrétně poukázala na oblasti, jako je právo a finance, kde by úkoly na začátku kariéry mohly být automatizovanější. Vláda zároveň klade důraz na adaptaci prostřednictvím rozsáhlého školení v základních dovednostech v oblasti umělé inteligence a uznává, že přechod se může zdát nerovnoměrný, i když se objeví nové role.
Mohou se britští vydavatelé odhlásit z přehledů umělé inteligence od Googlu, aniž by ztratili pozice ve vyhledávání?
Britští regulátoři hospodářské soutěže navrhli změny, které by vydavatelům umožnily odhlásit se z používání svého obsahu pro přehledy umělé inteligence od Googlu – nebo pro trénování samostatných modelů umělé inteligence – aniž by byli penalizováni ve standardním hodnocení vyhledávání. Cílem je znovu vyvážit síly, jelikož souhrny umělé inteligence mění chování při klikání. Google signalizoval, že zvažuje další kontroly, a zároveň varoval před fragmentovaným vyhledáváním.
Jak může agent umělé inteligence zveřejnit soukromá data pouhým kliknutím na odkaz?
OpenAI popsala riziko úniku dat na základě URL adresy, kdy útočník vyzve agenta umělé inteligence k načtení odkazu, který nenápadně vkládá citlivé informace do řetězce dotazu. I když model ve svém výstupu nikdy neopakuje tajný kód, samotný požadavek jej může přenést. Běžným způsobem zmírnění je přidání „záměrného tření“, jako jsou varování a požadavek na potvrzení uživatele, když odkaz není nezávisle ověřen jako veřejný.
Co je návrh profilu kybernetické umělé inteligence od NISTu a jak mění kybernetickou správu?
Návrh profilu NIST (diskutovaný prostřednictvím právní analýzy) chápe umělou inteligenci jako něco, co je třeba zabezpečit, a zároveň jako něco, co je třeba použít v kybernetické obraně. Seskupuje práci do témat, jako je zabezpečení komponent umělé inteligence, řešení rizik v dodavatelském řetězci a nasazení obranných mechanismů s využitím umělé inteligence – včetně automatizovanějších pracovních postupů reakce podobných agentům. Ačkoli jsou takovéto rámce na první pohled dobrovolné, často se stávají de facto očekáváními a nutí organizace k formálnímu začlenění umělé inteligence do správy a kontrolních mechanismů.