OpenAI podporuje v americkém Kongresu návrhy zákonů o hrozbách umělé inteligence a biologických zbraní
OpenAI zde podporuje řadu dvoustranných zákonů o biologických datech – zákon o webu biologických dat (Web of Biological Data Act), zákon o standardech biologických dat připravených pro umělou inteligenci (AI-Ready Bio-Data Standards Act) a zákon o škálovatelné biologii (Scale Biology Act). Hlavní myšlenka: zastavit modely v přeplňování biologických zbraní a syntetických virů. Těžká záležitost na úterní tiskovou zprávu.
A počkat – také podporují část zákona FRONTIER Act, která nutí špičkové laboratoře zapojit nezávislé hodnotitele bezpečnosti. Podle Hillova zpravodajství se poprvé přihlásili k takovému specifickému federálnímu mandátu.
Takže… společnost, která roky opakovala „důvěřujte nám“, najednou žádá Kongres, aby přiměl outsidery, aby se jim dívali přes rameno. Pokrok a lobbistické divadlo jdou ruku v ruce.
Ať tak či onak, sdělení je hlasité: biologické riziko už není jen poznámkou pod čarou v dokumentu.
Nadace Gatesů uvádí, že vynakládá miliardu dolarů na rozšíření přístupu k umělé inteligenci.
Zatímco se laboratoře přou o to, zda přibrzdit, Gatesova nadace právě slíbila nejméně miliardu dolarů během dvou let na to, aby umělou inteligenci nasměrovala k lidem, kteří obvykle dostávají zbytky.
Hrubý rozklad od zavedení Goalkeepers: asi 40 % vzdělávání, 40 % zdravotnictví, 10 % zemědělství, 10 % jazyky a digitální instalatérství. Představte si doučovatele matematiky, nástroje pro venkovské kliniky, pomocníky pro půdu/plodiny – plus datové sady, aby modely nemusely být navždy pouze v angličtině.
Gatesova věta je přímočará – bez zásahu trh buduje umělou inteligenci nejprve pro nejbohatší. Filantropie může vypadat jako řešení nebo obvaz na strukturální problém. Přesto. Miliarda není pokrčení ramen.
Také - ultrazvuk s umělou inteligencí na bázi telefonu, který je zaměřen na měření v nemocničním prostředí. Pozoruhodné, pokud se bude dodávat ve velkém měřítku.
Nový model uvažování od Salesforce a Nvidie je vše, čeho by se měly laboratoře umělé inteligence obávat
Dreamforce drop: Koa. První model uvažování CRM od Salesforce, trénovaný na otevřeném platformě Nvidia Nemotron – zaměřený na prodej, podporu a složité vícestupňové podnikové záležitosti, na které obvykle dostávají Claude a ChatGPT směr.
Žádná skutečná zákaznická data v tréninku - místo toho syntetické persony, včetně „rozzlobených volajících“, což je až příliš přímočaré. Salesforce udržuje váhy v rámci své hranice důvěryhodnosti. Jejich CRM bench hlásí méně chyb s menším počtem tokenů. Tokenomika. Všemi oblíbený slogan v oboru.
Jenže Anthropic nezruší. ClaudeForce stále existuje. Takže ano - postavte si vlastní logický systém a pronajímejte si pohraniční laboratoře. Rozpor. Mírný. Extrémně Salesforce.
Piloti už jezdí – Formule 1, nemocnice, družstevní záložny. Pohraniční laboratoře by se možná měly trochu zapotit.
Meta nyní umožňuje agentům umělé inteligence zvládat nudné části nastavení WhatsApp Business
Metův krok je méně existencionálním dramatem, spíše ve stylu „prosím, přestaňte nutit vývojáře klikat na dvanáct konzolí“. Nový WhatsApp Business Tools MCP umožňuje Claudeovi, Cursoru, Codexu, ChatGPT – vyberte si svého agenta – nastavit firemní zasílání zpráv chatováním o něm.
Vytvořte si účet. Ověřte číslo. Zaregistrujte se do cloudového API. Navrhujte šablony. Sledujte webhooky. Dokonce vás budou otravovat, když tiše selžou Podmínky služby nebo platba. Nudná práce s lepidlem, kterou nikdo nechce vlastnit.
Nástupní proces v podniku přes chat a MCP všude, dokud se něco nerozpadne a nepříjemně se stane, může být obojí pravdivé.
Každopádně – pokud si ve svém WhatsApp Business účtu najednou dáváte pocit, jako byste si mluvili s trochu přehnaně dychtivým stážistou, teď už víte proč.
Huang z Nvidie se rozchází s generálními řediteli společností Anthropic a OpenAI ohledně bezpečnosti umělé inteligence v Dreamforce
Stejné Mosconeovo pódium, v opačných registrech. Amodei říká Benioffovi, že tempo je způsob, jakým se vede – jděte příkladem, buďte lepší. Huang jde dál a nazývá rychlost versus bezpečnost „falešnou volbou“. Tržní síly. Žádné nové zákony nejsou potřeba. Běžte rychle… pokud se nechystáte poslat něco nebezpečného, pak se zastavte.
Altman později: bezpečnost a monitorování před schopnostmi. „K tomu by nemělo být žádné omezení.“ Takže ti tři generální ředitelé nejsou shodní. Možná sousedí.
Dav se během jednoho hlavního dne dozvěděl celé spektrum – kázání o zpomalení, optimismus v podobě chip-kingu a zdůrazňování odpovědnosti ze strany OpenAI bez nulového únikového poklopu typu „pokud konkurence nepodvádí“.
Který argument v praxi zvítězí, zůstává nejasný. Sledujte, co se dodá v příštím čtvrtletí. Slova jsou levná. GPU ne.
Španělský úřad pro ochranu osobních údajů zveřejňuje první zprávu o úniku dat z dat souvisejícím s agenty umělé inteligence
Španělská policie AEPD (Americká policie pro pohraniční policii) uvedla, že obdržela první oznámení o úniku osobních údajů, k němuž údajně došlo pomocí agenta umělé inteligence – pomocí široce známého LLM k nalezení mezer, přístupu dovnitř, úpravě osobních údajů a nahlížení do faktur.
Omezený lidský zásah v několika fázích útoku. To je na tom děsivé. Žádná sci-fi. Papírový incident se zabudovanou autonomií.
Agentura je opatrná: nejmenuje modelku ani oběť; říká, že infrastruktura poskytovatele nebyla ohrožena jen proto, že někdo přivezl agenta. Stále probíhá kontrola. Stále znepokojivé.
Jeden případ už není trend. Ale také už to není jen teorie. Kontroloři, připravte si stopky – útoky se právě zrychlily.
Často kladené otázky
Které zákony o umělé inteligenci a biologických zbraních OpenAI v Kongresu podporuje?
OpenAI schválila řadu dvoustranných zákonů o biologických datech, včetně zákona o webu biologických dat (Web of Biological Data Act), zákona o standardech biologických dat připravených pro umělou inteligenci (AI-Ready Bio-Data Standards Act) a zákona o biologii v měřítku (Scale Biology Act). Cílem je zabránit modelům v přeplňování biologických zbraní a syntetických virů. OpenAI také podporuje ustanovení zákona FRONTIER Act, které nutí špičkové laboratoře zavést nezávislé hodnotitele bezpečnosti – údajně se jedná o první případ, kdy OpenAI podepsala takový specifický federální mandát. Biologické riziko se již nepovažuje za poznámku pod čarou v dokumentu.
Jak Gatesova nadace utrácí miliardu dolarů za přístup k umělé inteligenci?
Nadace Gatesových slíbila během dvou let poskytnout nejméně miliardu dolarů na rozšíření přístupu k umělé inteligenci pro lidi, kteří obvykle dostávají zbytky. Zavedení programu Goalkeepers zhruba rozděluje asi 40 % na vzdělávání, 40 % na zdravotnictví, 10 % na zemědělství a 10 % na jazyky a digitální instalatérství, přičemž zahrnuje doučování matematiky, nástroje pro venkovské kliniky, pomocníky při sběru půdy a plodin a datové sady, takže modely nebudou navždy pouze v angličtině. Gates tvrdí, že bez zásahu trh vytvoří umělou inteligenci nejprve pro nejbohatší. Jedním ambiciózním příkladem, pokud se bude implementovat ve velkém měřítku, je ultrazvuk s umělou inteligencí založený na telefonu, jehož cílem je měření na nemocniční úrovni.
Co je model uvažování Koa od Salesforce a Nvidie?
Koa je první model uvažování v oblasti CRM od Salesforce, který byl následně trénován na platformě Nvidia Nemotron s otevřenou váhou a je zaměřen na prodej, podporu a složitou vícestupňovou podnikovou práci. Školení používalo syntetické persony – včetně rozzlobených volajících – spíše než skutečná zákaznická data a Salesforce udržuje váhy v rámci své hranice důvěryhodnosti. CRM lavice hlásí méně chyb s menším počtem tokenů. Salesforce se nezbavuje Anthropic: ClaudeForce zůstává, takže si buduje vlastní engine pro uvažování a zároveň si stále pronajímá hraniční laboratoře s piloty, kteří již pracují ve Formuli 1, nemocnicích a družstevních záložnách.
Jak pomáhá obchodní MCP pro WhatsApp od Meta agentům s umělou inteligencí?
Nový nástroj WhatsApp Business Tools MCP od Mety umožňuje agentům, jako jsou Claude, Cursor, Codex a ChatGPT, nastavit firemní zasílání zpráv chatováním o něm. Agenti si mohou vytvořit účet, ověřit číslo, zaregistrovat se do cloudového API, vytvářet šablony, sledovat webhooky a otravovat, když tiše selžou Podmínky služby nebo platba. Cílem je nahradit nudnou práci s více konzolemi, kterou nikdo nechce vlastnit. Zaškolování v podnikání začíná vypadat spíše jako rozhovor s přehnaně dychtivým stážistou než klikání na dvanáct administrátorských obrazovek.
Jak se Huang z Nvidie odchýlil od Anthropic a OpenAI v otázce bezpečnosti umělé inteligence?
V Dreamforce Amodei řekl Benioffovi, že tempo je způsob, jakým vedete – jděte příkladem a buďte lepší – zatímco Jensen Huang označil rychlost versus bezpečnost za falešnou volbu řízenou tržními silami, bez nutnosti nových zákonů, pokud se nechystáte uvést na trh něco nebezpečného. Altman později zdůraznil bezpečnost a monitorování přednostně před funkcemi, ale bez jakéhokoli omezení. Všichni tři generální ředitelé se neshodli: na stejném pódiu se konaly kázání o zpomalení, optimismus v oblasti čipových králů a prezentace odpovědnosti OpenAI. To, co se uvede na trh v příštím čtvrtletí, bude důležitější než hlavní projevy.
Co španělský úřad pro ochranu osobních údajů oznámil o narušení bezpečnosti dat agenta umělé inteligence?
Španělský úřad AEPD zveřejnil své první oznámení o narušení bezpečnosti osobních údajů, k němuž údajně došlo agentem umělé inteligence používajícím známý LLM k hledání děr, vstupu do systému, úpravě osobních údajů a prohlížení faktur. Děsivé je, že v několika fázích útoku docházelo k omezenému lidskému zásahu – šlo o incident s papírováním a zabudovanou autonomií. Úřad nejmenoval model ani oběť a uvedl, že infrastruktura poskytovatele nebyla ohrožena jen proto, že někdo agenta řídil. Případ je stále předmětem prošetřování, ale už se nejedná jen o teorii.