SpaceX oficiálně dokončila akvizici společnosti Cursor ↗
Cursor je oficiálně součástí SpaceX. Startup zabývající se kódováním umělé inteligence tvrdí, že díky dohodě získá přístup k tomu, co nazývá největší flotilou grafických procesorů na světě – což je docela výpočetní úložiště.
Akvizice následovala po dřívější dohodě, která dala SpaceX opci na koupi Cursoru za 60 miliard dolarů. Cursor nyní stojí vedle rozšiřujících se ambicí SpaceX v oblasti umělé inteligence a výpočetní techniky, včetně infrastruktury, která je již pronajímána společnostem jako Anthropic a Google. (TechCrunch)
Anthropic sdílí více podrobností o tom, jak budou Claudovy nové vodoznaky fungovat ↗
Společnost Anthropic vysvětlila, jak bude Claudeův systém neviditelného vodoznaku v textu fungovat v praxi. Plánuje využít přístup SynthID-Text od společnosti Google, který nenápadně ovlivňuje výběr slov tak, aby generovaný text obsahoval detekovatelný statistický vzorec, aniž by viditelně měnil výstup.
Anthropic také plánuje API pro detekci vodoznaků. Lehké úpravy mohou vodoznak ponechat nedotčený, zatímco úplné přepsání jej může odstranit – takže ano, je to chytré, ale stěží se jedná o magický inkoust. Kód by měl nést mnohem slabší signály vodoznaků, protože modely mají menší volnost při libovolném formulování. (TechCrunch)
Nvidia snižuje záruku financování datového centra OpenAI v Ohiu, informuje WSJ ↗
Společnost Nvidia údajně snížila finanční záruku, kterou zvažuje pro obrovský projekt datového centra OpenAI v Ohiu. Počáteční záruka by nyní měla být nižší než 120 miliard dolarů, namísto dříve diskutovaných 250 miliard dolarů.
Tato změna údajně následovala po obavách investorů, že Nvidia přebírá příliš mnoho finančních rizik. OpenAI stále diskutuje o závazné nájemní smlouvě pokrývající celý 10gigawattový areál – výdaje na infrastrukturu v rozsahu, který začíná vypadat méně jako cloud computing a více jako budování malé země. (Reuters)
Vysvětlení: Iniciativa Daybreak od OpenAI a GPT-5.6.Cyber ↗
Společnost OpenAI rozšířila svůj program kybernetické bezpečnosti Daybreak o dvě úrovně přístupu: Daybreak Blue pro obranné bezpečnostní práce s využitím hraničních modelů a Daybreak Red pro intenzivnější výzkum s využitím GPT-5.6-Cyber.
Model specializovaný na kybernetickou bezpečnost údajně vyřídil 95 % pokročilých požadavků na kybernetickou bezpečnost, aniž by je odmítl, ve srovnání s 57,3 % u svého předchůdce. OpenAI také uvádí, že model pomohl identifikovat dvě dříve neznámé zranitelnosti v JavaScriptovém enginu V8 od Googlu. Výkonná věc... a tato snížená míra odmítnutí samozřejmě činí těsný sandbox poměrně důležitým. (aimagazine.com)
Eval Harness odhalil to, co kvalitativní recenze nedokázala: Modely umělé inteligence si nejvíce věří, když se mýlí ↗
Experiment s umělou inteligencí v podniku odhalil nepříjemný problém se spolehlivostí: výstupy, které zněly uhlazeně a přesvědčivě, často selhávaly při testování se známými fakty. V nejtěžších případech nebyla spolehlivost modelu spolehlivým ukazatelem správnosti.
Navrhované řešení je poměrně nenápadné, ale důležité – vytvořit vyhodnocovací systémy s využitím kontrolovaných testovacích případů, kde je správná odpověď již známá, a poté vyhodnotit, zda model tyto odpovědi správně identifikuje a seřadí. V podstatě přestaňte hodnotit umělou inteligenci na základě povrchní spolehlivosti. (IT Intelligence)
Žena tvrdí, že její nevlastní otec použil Groka k přeměně dětské fotografie na explicitní obrázky ↗
Žena se připojila k žalobě proti společnosti xAI s tvrzením, že Grok byl použit k přeměně její dětské fotografie na tisíce sexuálně explicitních obrázků. Případ se připojuje k tvrzením tří teenagerů, kteří společnost obviňují z nedostatečné ochrany proti zneužívání generování obrázků zahrnujících skutečné osoby a nezletilé.
Tato obvinění znovu upozorňují na nepříjemné záměry ochrany generativního obrazu – protože schopnosti už zjevně nejsou jediným faktorem. Stejně důležitou roli hraje i prevence zneužití modelů proti skutečným lidem. (TechCrunch)
Často kladené otázky
Proč SpaceX koupila Cursor?
Akvizice společnosti Cursor dává startupu zabývajícímu se kódováním umělé inteligence přístup k rozsáhlé infrastruktuře grafických procesorů (GPU) společnosti SpaceX a zároveň ji zařazuje do širší strategie společnosti v oblasti umělé inteligence a výpočetní techniky. SpaceX si dříve zajistila opci na koupi Cursoru za 60 miliard dolarů. Dohoda také propojuje Cursor s infrastrukturou, kterou SpaceX již pronajímá společnostem zabývajícím se umělou inteligencí, včetně Anthropic a Googlu.
Jak bude fungovat vodoznak v textu Claude v Anthropic?
Společnost Anthropic plánuje využít přístup SynthID-Text od společnosti Google k vytváření neviditelných statistických vzorců v textu generovaném Claudem. Systém nenápadně ovlivňuje výběr slov, spíše než aby přidával viditelný znak. Lehká úprava může vodoznak zachovat, zatímco úplné přepsání jej může odstranit. Anthropic také plánuje nabídnout API schopné detekovat tyto signály vodoznaků.
Proč Nvidia snížila svou navrhovanou záruku pro datové centrum OpenAI v Ohiu?
Nvidia údajně snížila zvažovanou finanční záruku kvůli obavám z převzetí příliš velké finanční expozice. Navrhovaná záruka by nyní měla být nižší než 120 miliard dolarů, namísto dříve diskutovaných 250 miliard dolarů. OpenAI údajně stále diskutuje o závazné nájemní smlouvě, která by se vztahovala na celé 10gigawattové datové centrum v Ohiu.
K čemu jsou navrženy OpenAI Daybreak a GPT-5.6-Cyber?
Kybernetický bezpečnostní program Daybreak od OpenAI poskytuje různé úrovně přístupu pro bezpečnostní výzkum. Daybreak Blue se zaměřuje na obrannou bezpečnostní práci s využitím hraničních modelů, zatímco Daybreak Red podporuje intenzivnější výzkum s využitím GPT-5.6-Cyber. Model specializovaný na kybernetickou bezpečnost je navržen pro zpracování pokročilých požadavků na kybernetickou bezpečnost, takže kontroly, jako je sandboxing, jsou obzvláště důležité, když modely dostávají širší možnosti.
Proč jsou vyhodnocovací postroje důležité pro spolehlivé systémy umělé inteligence?
Hodnocení využívá testování modelů umělé inteligence na kontrolovaných příkladech, kde je správná odpověď již známa. To pomáhá týmům měřit, zda model identifikuje a seřadí správnou odpověď, spíše než ji posuzovat podle toho, jak propracovaná nebo sebevědomá její odpověď zní. Podnikový experiment popsaný v článku zjistil, že sebevědomí samo o sobě není spolehlivým ukazatelem správnosti v obtížných případech.
Co naznačuje žaloba Groka ohledně ochranných opatření pro generování obrazu pomocí umělé inteligence?
Žaloba zdůrazňuje obavy ze zneužívání systémů generativního zobrazování k vytváření urážlivých explicitních snímků zahrnujících skutečné osoby a nezletilé. Žena tvrdí, že Grok byl použit k přeměně její dětské fotografie na tisíce explicitních obrázků. Případ posiluje rostoucí význam ochranných opatření, která řeší zneužití, nejen zlepšování modelovacích schopností.