🏛️ Jak se velké technologické společnosti prosadily v Trumpově výkonném nařízení o umělé inteligenci ↗
Trump odstoupil od plánovaného výkonného nařízení o umělé inteligenci, které by prosadilo bezpečnostní kontroly nových modelů. Důvod v podstatě zněl: nezpomalit Ameriku v závodě s Čínou.
Pozoruhodné je, že nařízení bylo údajně již poměrně mírné – dobrovolné, nešlo o nějaké drtivé regulační kladivo. Přesto proti němu technologickí lídři tvrdě tlačili a dostali, co chtěli. (The Guardian)
🛡️ Umělá inteligence Claude Mythos našla 10 000 vysoce závažných zranitelností v široce používaném softwaru ↗
Společnost Anthropic uvedla, že její projekt Glasswing v rámci projektu Claude Mythos Preview odhalil více než 10 000 zranitelností s vysokou nebo kritickou závažností. To je působivé, ale zároveň to působí jako požární hlásič s pláštěnkou.
Společnost uvádí, že 1 726 nálezů bylo potvrzeno jako skutečně pozitivní, přičemž 97 bylo opraveno a 88 bylo vydáno upozornění. Nejtěžší nyní není najít chyby – jde o jejich opravu dříve, než se k nim dostanou útočníci. (The Hacker News)
🛰️ Bílý dům schválil 9 miliard dolarů pro špionážní agentury, aby dohnaly umělou inteligenci ↗
Bílý dům schválil tajnou žádost o nákup pokročilých čipů pro americké zpravodajské služby v hodnotě 9 miliard dolarů, jejichž cílem je provozovat modely umělé inteligence na hranicích zemí pro utajované účely.
Kongres stále musí schválit vyšší financování, ale 800 milionů dolarů se přeprogramovává na rychlejší přístup k výpočetnímu vybavení. Podtext je těžké přehlédnout: i špionážní agentury nyní uvízly ve frontě na čipy umělé inteligence, což je absurdní i předvídatelné zároveň. (Inquirer.com)
🪞 „Nemůžete mít pod kontrolou všechno“: nárůst počtu plastických chirurgů, kteří jsou požádáni o vytvoření „tváře s umělou inteligencí“ ↗
Plastičtí chirurgové tvrdí, že stále více pacientů si jako cíl operace vybírá selfie upravené pomocí umělé inteligence – ostřejší lícní kosti, dokonalou symetrii, pleť bez pórů a celý ten tajemný nákupní seznam.
Chirurgové varují, že umělá inteligence dokáže přeskupovat pixely, nikoli anatomii. Jeden z nich recenzoval zákroky doporučené umělou inteligencí, které by mohly stát přes 100 000 liber a stále by nepřinesly vysněnou tvář. Tohle je ponuré malé zrcadlové bludiště. (The Guardian)
💰 Anthropic plánuje uzavřít kolo investic v hodnotě přes 30 miliard dolarů již příští týden ↗
Společnost Anthropic se údajně blíží k financování ve výši přesahující 30 miliard dolarů, přičemž její ocenění se blíží 900 miliardám dolarů. Ano, to číslo se jen tak neuvěřitelně vymkne kontrole.
Toto kolo je poháněno obrovskou poptávkou po Claudeovi v oblasti kódování, obchodních pracovních postupů a kybernetické bezpečnosti. Společnost se také snaží uzamknout více výpočetních zdrojů, protože v dnešní době jsou peníze většinou palivem pro nošení obleku. (Business Standard)
🖼️ Obrázky ChatGPT nesou neviditelné značky umělé inteligence, které dokáže detekovat kdokoli: Co by měli vědět uživatelé, kteří nemohou odhalit informace o umělé inteligenci generace ↗
Výstupy obrázků z OpenAI nyní nesou dva signály o původu: metadata C2PA a vodoznak SynthID od Google DeepMind. Jeden poskytuje bohatší kontext souboru, zatímco druhý je určen pro uchování snímků obrazovky a komprese.
V náhledové verzi je také k dispozici nástroj pro veřejné ověření. Není to sice bezchybné, to ne – vědci prokázali útoky s vodoznakem – ale díky tomu je „vůbec jsem nepoužíval umělou inteligenci“ mnohem riskantnější malou lež. (Tech Times)
Často kladené otázky
Proč Trump odstoupil od plánovaného výkonného nařízení o umělé inteligenci?
Článek uvádí, že plánované výkonné nařízení o umělé inteligenci bylo údajně změkčeno pod tlakem velkých technologických lídrů. Nařízení bylo již dříve popsáno jako relativně mírné a dobrovolné, se zaměřením na bezpečnostní kontroly nových modelů umělé inteligence. Hlavním argumentem proti němu bylo, že dodatečné kontrolní procesy by mohly zpomalit USA v jejich závodě s Čínou v oblasti umělé inteligence.
Co objevil Claude Mythos z Anthropic v softwaru?
Společnost Anthropic uvedla, že její projekt Project Glasswing využil Claude Mythos Preview k identifikaci více než 10 000 vysoce nebo kriticky závažných zranitelností v široce používaném softwaru. Článek uvádí, že 1 726 zjištění bylo potvrzeno jako skutečně pozitivní a některé záplaty a upozornění již byly vydány. Širším problémem je, zda obránci dokážou tyto slabiny opravit dříve, než útočníci zneužijí podobné nástroje umělé inteligence.
Proč americké tajné služby požadují více čipů s umělou inteligencí?
Článek uvádí, že Bílý dům schválil tajnou žádost o 9 miliard dolarů na pomoc americkým zpravodajským agenturám s nákupem pokročilých čipů pro modely umělé inteligence na hranicích zemí. Cílem je podpořit utajované práce s umělou inteligencí, které vyžadují velké množství výpočetního materiálu. Uvádí se také, že Kongres stále musí schválit širší financování, zatímco část peněz je přeprogramována pro rychlejší přístup.
Co znamená „AI face“ v kosmetické chirurgii?
„AI face“ označuje pacienty, kteří plastickým chirurgům přinášejí selfie upravené pomocí umělé inteligence jako příklad toho, jak chtějí vypadat. Tyto snímky mohou ukazovat ostřejší rysy, dokonalou symetrii nebo pleť, která není realistická. Chirurgové citovaní v článku varují, že umělá inteligence dokáže snadno měnit pixely, ale skutečná anatomie má limity, které chirurgie nedokáže vždy překonat.
Jak neviditelné značky na obrázcích ChatGPT ovlivňují uživatele?
Článek uvádí, že výstupy obrázků ChatGPT nyní zahrnují signály o původu, jako jsou metadata C2PA a vodoznak SynthID. Tyto značky mohou pomoci identifikovat obrázky generované umělou inteligencí, a to i v případech, kdy někdo nechce zveřejnit použití umělé inteligence. Článek také uvádí, že vodoznak není stoprocentně spolehlivý, ale usnadňuje odhalování nezveřejněného použití obrázků s umělou inteligencí.