🔐 OpenAI identifikuje bezpečnostní problém týkající se nástroje třetí strany a tvrdí, že k uživatelským datům nebyl přistupováno ↗
Společnost OpenAI uvedla, že napadený nástroj pro vývojáře třetí strany se dotkl procesu, který společnost používá k certifikaci legitimních aplikací pro macOS. Společnost uvedla, že nenašla žádné důkazy o tom, že by došlo k přístupu k uživatelským datům, že by byly ohroženy její systémy nebo IP adresy, ani že by byl její software pozměněn – což je klíčové. (Reuters)
Praktické důsledky jsou stále dost vážné. OpenAI rotovala certifikáty a snažila se věci zpřísnit, aby se falešné, ale přesvědčivé aplikace ChatGPT nestaly větším problémem, než by musely být. Nejde tedy o narušení bezpečnosti – ale spíše o jeden z těch momentů, kdy si říkáte „aktualizujte si aplikaci hned“. (OpenAI)
🧯 Sam Altman reaguje na „pobuřující“ článek v New Yorkeru po útoku na jeho dům ↗
Sam Altman se veřejně postavil proti ostře kritickému profilu Newyorčana po zjevném útoku na jeho domov a některé jeho části označil za zavádějící a osobní. Celá věc působila na post generálního ředitele neobvykle syrově – spíše defenzivně než uhlazeně, možná záměrně. (TechCrunch)
Zároveň policie zatkla podezřelého z útoku Molotovem, který je spojen s Altmanovou rezidencí v San Franciscu, přičemž nebyl hlášen žádný úraz. Zpráva se tak v mžiku přesunula z mediální kritiky k fyzické ostraze – ta se nyní stala skutečnou součástí dění kolem umělé inteligence. (AP News)
🏗️ Bývalí lídři OpenAI Stargate se plánují připojit k Meta Platforms ↗
Tři vysoce postavení představitelé spojené s projektem OpenAI v oblasti infrastruktury Stargate údajně míří do Mety. Nejde jen o odliv talentů – jde o odliv talentů v rámci výpočetní války, který dopadne jinak, když se všichni perou o datová centra, čipy a energii.
Nábor naznačuje, že Meta nejenže utrácí velké peníze za modely, ale také se snaží absorbovat lidi, kteří vědí, jak pod nimi stavět průmyslové potrubí. Možná je to na povrchu suché, ale právě zde se nyní odehrává velká část závodu. (Bloomberg)
🛡️ Náhled Clauda Mythose ↗
Společnost Anthropic uvedla, že její nový model Mythos je v oblasti kybernetické bezpečnosti dostatečně silný, že jej zatím široce nevydává. Místo toho je začleňován do přísně kontrolovaného obranného úsilí, protože se společnost domnívá, že model dokáže odhalit nebezpečné softwarové chyby v rozsahu, který je, no, poněkud alarmující. (Red Anthropic)
Tato opatrnost se již šíří. Zprávy uvádějí, že američtí úředníci a velké firmy vnímají skokový nárůst kapacity modelu jako skutečný problém s bezpečností infrastruktury, nikoli jen jako další okázalý start. Pro jednou má cyklus umělé inteligence nasazenou ochrannou přilbu. (Axios)
☁️ CoreWeave uzavřela dohodu o cloudu s AI a Anthropic, akcie rostou ↗
Společnost CoreWeave uvedla, že na základě víceleté smlouvy poskytne společnosti Anthropic cloudovou výpočetní kapacitu, která by měla být spuštěna později v tomto roce. Je to další připomínka toho, že modelové společnosti jsou stále jen tak rychlé, jak rychlé je infrastruktura pod nimi – okouzlující software, brutálně fyzická úzká hrdla.
Pro Anthropic dohoda posiluje přístup k výpočetním technologiím pro řadu Claude. Pro CoreWeave je to další známka toho, že specializovaní hráči v oblasti cloudových technologií v oblasti umělé inteligence nadále odtahují zakázky od absolutní špičky v oblasti tvorby modelů, která si – poněkud překvapivě – drží pevnou pozici. (Reuters)
💸 Společnost SiFive podporovaná společností Nvidia dosáhla hodnoty svých otevřených čipů pro umělou inteligenci 3,65 miliardy dolarů ↗
Společnost SiFive získala investici ve výši 400 milionů dolarů s oceněním 3,65 miliardy dolarů, což je velkým důkazem důvěry v otevřený design čipů pro systémy umělé inteligence. Nejde sice o to, že by se Nvidia jen tak ocitla na trůnu, ale ukazuje to, že investoři stále chtějí alternativní cesty k hardwarovému stacku umělé inteligence.
Širší pointu je těžké přehlédnout. Umělá inteligence už není jen příběhem o modelu, nebo dokonce o čipu – stává se bojem o to, které vrstvy zůstanou otevřené, které zůstanou proprietární a kdo dostane zaplaceno na každé zastávce dopravního pásu. (TechCrunch)
Často kladené otázky
Co se stalo s bezpečnostním problémem aplikace OpenAI pro macOS?
Společnost OpenAI uvedla, že napadený nástroj pro vývojáře třetí strany ovlivnil proces podepisování používaný k certifikaci jejích aplikací pro macOS. Společnost také uvedla, že nenašla žádné důkazy o přístupu k uživatelským datům, o ohrožení jejích systémů nebo duševního vlastnictví ani o změně softwaru. Ústředním problémem byla důvěra a autenticita aplikace, nikoli potvrzené narušení zákaznických informací.
Mám po tomto incidentu s OpenAI aktualizovat aplikaci ChatGPT pro macOS?
Ano, aktualizace aplikace je praktickým ponaučením. OpenAI rotovala certifikáty a zpřísnila proces, takže falešné, ale přesvědčivé aplikace ChatGPT s menší pravděpodobností způsobí zmatek nebo riziko. V takových případech je nejbezpečnějším krokem používat nejnovější oficiální verzi a vyhýbat se stahování desktopových aplikací z neoficiálních zdrojů nebo zrcadlových webů.
Proč je problém s nástrojem pro vývojáře třetí strany důležitý, pokud nebyla odcizena žádná data?
Protože důvěra v software nespočívá jen v přístupu k datům. Pokud je nástroj zapojený do certifikace aplikací ohrožen, může to vyvolat pochybnosti o tom, zda uživatelé dokáží spolehlivě identifikovat legitimní software. V mnoha produkčních prostředích je tento typ problému důležitý, protože ovlivňuje bezpečnost distribuce, důvěru v aktualizace a riziko přesvědčivých pokusů o zosobnění.
Proč je pro Metu tak důležité najímání bývalých lídrů OpenAI Stargate a dalších infrastrukturních kroků v oblasti umělé inteligence?
Tyto nábory poukazují na konkurenci pod úrovní modelů, kde datová centra, čipy, energie a kapacita nasazení hrají stejnou roli jako výzkumní talenti. Infrastruktura umělé inteligence se stává strategickou výhodou, nikoli pouze podpůrnou funkcí. Článek naznačuje, že se Meta snaží posílit průmyslovou stránku umělé inteligence, nikoli pouze přidat další výzkumníky v oblasti modelů.
Co je to model Mythos od Anthropic a proč by společnost omezovala jeho vydání?
Server Anthropic popsal Mythos jako dostatečně pokročilý v oblasti kybernetické bezpečnosti, takže je spíše udržován pod přísnou kontrolou než široce vydáván. Zdá se, že obava spočívá v tom, že výkonný systém pro vyhledávání softwarových chyb by mohl nabídnout obrannou hodnotu a zároveň zvýšit riziko zneužití. Běžným přístupem v takových situacích je omezený přístup, úzké nasazení a přísnější dohled.
Proč jsou dohody o infrastruktuře umělé inteligence a financování otevřených čipů důležité pro širší trh s umělou inteligencí?
Ukazují, že závod v oblasti umělé inteligence je stále více formován přístupem k výpočetní technologii a výběrem hardwaru, nejen funkcemi chatbotů. Dohoda mezi CoreWeave a Anthropic zdůrazňuje, jak modelové společnosti stále závisí na cloudové kapacitě, zatímco financování ze strany SiFive signalizuje zájem investorů o alternativy v rámci čipového stacku pro umělou inteligenci. Dohromady tyto kroky naznačují, že infrastruktura umělé inteligence se stává klíčovým bojištěm pro růst a kontrolu.