Zdroje uvádějí, že Trumpovi poradci sdělili firmám zabývajícím se umělou inteligencí, že nebudou testovat bezpečnost modelů s otevřenou váhou ↗
Podle lidí obeznámených s diskusemi Trumpova administrativa sdělila předním společnostem zabývajícím se umělou inteligencí, že nebude testovat bezpečnost modelů s otevřeným vahováním. To ponechává poměrně významnou část hodnocení rizik mimo vládní rámec.
V praxi mohou vývojáři a uživatelé nést větší odpovědnost za vyhodnocování modelů před vydáním nebo nasazením. Možná to bude příznivé pro inovace... ale načasování je nejisté, protože otevřené modely se rychlým tempem stávají schopnějšími. (Reuters)
Modely umělé inteligence s otevřenou váhou dohánějí hranice. Bezpečnostní mezera přetrvává. ↗
Z.ai GLM-5.2 údajně zaostává za předními uzavřenými modely v oblasti kybernetických a biologických schopností jen o několik měsíců. Testy SaferAI zjistily, že neodmítl žádný z útočných kybernetických ani biologických úkolů dvojího užití, které mu byly předloženy.
Uzavřené modely se mohou spoléhat na trénování odmítnutí, klasifikátory a ovládací prvky API. Stahovatelné váhy jsou jiná věc – po uvolnění lze ochranná opatření změnit nebo odstranit, takže bezpečnostní mezera působí zřetelně kaňonovitě. (TechCrunch)
Společnost Samsung Electronics představuje novou generaci technologie paměti s umělou inteligencí ↗
Společnost Samsung představila prototyp BV-NAND s více než 400 vrstvami a novým designem spojování waferů. Společnost uvádí, že nabízí zhruba o 58 % vyšší hustotu paměti než předchozí generace a zároveň rychlejší čtení, zápis a vstupně-výstupní výkon.
Samsung také nastínil vertikálně naskládané paměti zHBM umístěné nad akcelerátory umělé inteligence. Tvrdí, že architektura by mohla nabídnout více než desetinásobnou hustotu oproti konvenčním HBM5, trojnásobnou energetickou účinnost a podstatně nižší tepelný odpor – což jsou, mírně řečeno, značné sliby. (Reuters)
Závod o datová centra s umělou inteligencí vytváří pro velké technologické firmy zátěž v hodnotě 1 bilionu dolarů za pronájem ↗
Společenství společností Microsoft, Meta, Oracle, Amazon a Alphabet se zavázaly k pronájmu smluv, které dosud nezačaly, ve výši přibližně 1,09 bilionu dolarů, a to především na datová centra s umělou inteligencí. Tyto závazky jsou téměř čtyřnásobkem jejich uznaných závazků z pronájmu.
Tato kapacita by mohla podnítit další boom cloudových technologií. Nebo, méně vesele, by mohla vést k tomu, že firmy budou muset platit za obrovská zařízení, pokud poptávka po umělé inteligenci zklame – kabát za bilion dolarů by se koupil ještě předtím, než by se někdo podíval na počasí. (Reuters)
Anthropic podepsala smlouvu v hodnotě 10 miliard dolarů se startupem Volta, který se zabývá cloudovou technologií umělé inteligence ↗
Společnost Anthropic údajně souhlasila s nákupem výpočetní kapacity v hodnotě 10 miliard dolarů od cloudového startupu Volta, který se zabývá umělou inteligencí, během šesti let. Dohoda by podpořila výstavbu norského datového centra s kapacitou 133 megawattů.
Očekává se, že s vývojem zařízení, které bude využívat systémy Vera Rubin od společnosti Nvidia, pomůže společnost Bitdeer, která se zabývá těžbou kryptoměn. Anthropic shromažďuje výpočetní partnerství jako magnety na ledničku – jenže tyto magnety stojí miliardy. (TechCrunch)
Umělá inteligence nabízí „záchranné lano“ pro rozvíjející se ekonomiky, říká Světová banka ↗
Světová banka tvrdí, že umělá inteligence by mohla rozvojovým ekonomikám umožnit zkomprimovat století pokroku do desetiletí, pokud zlepší elektřinu, konektivitu a digitální dovednosti. Menší, lokálně přizpůsobené nástroje by mohly podpořit zdravotnictví, vzdělávání, zemědělství a veřejné služby, aniž by vyžadovaly obrovské národní modely.
Zpráva odhaduje, že 4,5 % pracovních míst v zemích s nízkými a středními příjmy je vystaveno generativní umělé inteligenci, ve srovnání se 14,2 % v bohatších ekonomikách. I přesto tento příslib přichází s ostrými varováními před nerovností, dezinformacemi a politickou represí – záchranným lanem s několika uzly. (Reuters)
Často kladené otázky
Proč americká vláda netestuje bezpečnost modelů umělé inteligence s otevřenou váhou?
Podle článku Trumpova administrativa sdělila předním společnostem zabývajícím se umělou inteligencí, že modely s otevřenou váhou nebudou zahrnuty do jejího vládního rámce pro testování bezpečnosti. To klade větší odpovědnost na vývojáře modelů, distributory a uživatele, kteří před vydáním nebo přijetím těchto systémů možná budou muset nezávisle posoudit kybernetická, biologická, zneužívací a nasazení rizika.
Proč je těžší zabezpečit modely umělé inteligence s otevřenou váhou než modely uzavřené?
Modely umělé inteligence s otevřenou váhou lze stahovat, upravovat a provozovat mimo původní infrastrukturu vývojáře. V důsledku toho mohou být oslabena nebo odstraněna ochranná opatření, jako je trénování odmítnutí, klasifikátory a řízení přístupu. Uzavřené modely jsou obvykle dodávány prostřednictvím kontrolovaných API, což poskytovatelům dává větší prostor pro sledování používání, omezování přístupu a aktualizaci ochran po nasazení.
Jak by měly organizace před nasazením vyhodnotit modely umělé inteligence s otevřenou váhou?
Běžným přístupem je testování modelu v reálných scénářích zneužití, včetně útočných kybernetických úkolů, požadavků na dvojí biologické využití a pokusů o obejití ochranných opatření. Organizace by měly také prozkoumat, jak bude model hostován, kdo jej bude moci upravovat a jaké monitorovací systémy jsou k dispozici. Nasazení s vyšším rizikem obvykle vyžaduje přísnější kontroly přístupu a trvalý lidský dohled.
Co má nová technologie paměti s umělou inteligencí od společnosti Samsung vylepšit?
Prototyp BV-NAND od společnosti Samsung využívá více než 400 vrstev a konstrukci s waferovým spojováním, jejímž cílem je zvýšit hustotu paměti a zároveň zlepšit výkon čtení, zápisu a vstupu-výstupu. Společnost také popsala vertikálně stohované paměti zHBM umístěné nad akcelerátory umělé inteligence. Tyto konstrukce mají řešit nároky na kapacitu, energii a teplo, které jsou způsobeny stále intenzivnějšími úlohami umělé inteligence.
Proč jsou pronájmy datových center s umělou inteligencí od velkých technologických společností považovány za finanční riziko?
Společnosti Microsoft, Meta, Oracle, Amazon a Alphabet údajně vyčlenily přibližně 1,09 bilionu dolarů na pronájmy, které dosud nezačaly, přičemž velká část z nich se týká datových center s umělou inteligencí. Přidaná kapacita by mohla podpořit rychlý růst poptávky po cloudu a umělé inteligenci. Společnosti však mohou i nadále dlužit značné platby, pokud se poptávka bude vyvíjet pomaleji, než se očekávalo, nebo pokud infrastruktura zůstane nedostatečně využívána.
Jak by mohla umělá inteligence prospět rozvíjejícím se ekonomikám?
Světová banka tvrdí, že umělá inteligence by mohla pomoci rozvojovým ekonomikám posílit zdravotnictví, vzdělávání, zemědělství a veřejné služby, zejména prostřednictvím menších nástrojů přizpůsobených místním potřebám. Tyto výhody závisí na spolehlivé elektřině, přístupu k internetu a digitálních dovednostech. Vlády musí také řídit rizika, jako je nerovnost, dezinformace a politické represe, s tím, jak se umělá inteligence rozšiřuje.