🛡️ Britští regulátoři spěchají s vyhodnocením rizik nejnovějšího modelu antropické umělé inteligence, informuje FT ↗
Britské finanční dozorčí orgány údajně rychle pracují na novém modelu Mythos od společnosti Anthropic kvůli obavám, že by mohl odhalit vážné slabiny v kritických systémech. Jednání se účastní Bank of England, FCA, ministerstvo financí a Národní centrum pro kybernetickou bezpečnost – což je na jeden z modelů v předpremiéře impozantní sestava.
Obava spočívá v tom, že Mythos je neobvykle zdatný v hledání softwarových zranitelností, přestože Anthropic tvrdí, že zavádění je přísně omezené a zaměřené na obranné bezpečnostní práce. Očekává se, že banky, pojišťovny a burzy budou informovány, takže to nyní působí méně jako drby z laboratoře a spíše jako politika infrastruktury.
🤖 Na konferenci HumanX všichni mluvili o Claudovi ↗
Anthropic jako by udával tón na HumanX – to byl ten příběh. Napříč panely, rozhovory s dodavateli a povídáním v chodbách se Claude neustále objevoval jako vzorový člověk, kterého lidé nejvíce hledali pro obchodní a kódovací pracovní postupy.
Co vyčnívalo, bylo relativní ticho kolem ChatGPT. Článek naznačuje, že OpenAI má stále rozsah a peníze, ale nálada na konferenci se přikláněla k Claudovi jako nástroji s ostřejším tahákem pro podniky v současné době – nebo se to tak alespoň zdá.
📄 Claude pro Word od Anthropic je další výzvou pro softwarové impérium Microsoftu ↗
Společnost Anthropic spustila beta verzi nástroje Claude pro Word, která se tak posouvá hlouběji do běžného kancelářského softwaru, místo aby zůstala omezena na nástroj pro vývojáře. Dokáže odpovídat na otázky týkající se dokumentu pomocí klikatelných citací sekcí, upravovat vybraný text bez narušení formátování a zpracovávat sledované změny.
Cílová skupina je celkem jasná: týmy s velkým množstvím dokumentů, zejména právní a finanční oddělení. Díky tomu je to víc než jen doplněk funkce – je to přímý útok na domácí půdu Microsoftu a docela drzý tah.
🌐 AI boti těží z webu a Anthropic je v tomto ohledu na prvním místě ↗
Nový pohled na data Cloudflare ukazuje, že společnosti zabývající se umělou inteligencí extrahují z webu mnohem více, než kolik vrací. Klíčovou statistikou je poměr crawl-to-refer – jak často boti scrapingují stránky oproti tomu, jak často posílají uživatele zpět – a Anthropic si vede obzvláště špatně.
Poměr Anthropic je uváděn jako 8 800 ku 1, přičemž OpenAI je také vysoký, ale mnohem nižší. Širší argument je tvrdý: stará webová dohoda byla, aby nás prohledal a pak nám poslal provoz. AI enginy odpovědí si ponechají první část a druhou nechají zamlženou.
⚔️ Pohled na eskalující globální závody ve zbrojení s využitím umělé inteligence, kdy USA, Čína, Rusko a další země spěchají s budováním autonomních zbraní a obranných systémů podporovaných umělou inteligencí ↗
Nejnovější zpravodajství o vojenské umělé inteligenci se méně věnuje okázalým demonstracím a více strategickému zrychlení. Velmoci zároveň prosazují autonomní a obranné systémy s podporou umělé inteligence, což celou věc dojímá jako štafetový závod, kde všichni chytili štafetu a zapomněli na brzdy.
To vyvolává obvyklé otázky – kontrola, eskalace, odpovědnost – ale nyní s větší naléhavostí. Jakmile je umělá inteligence hlouběji začleněna do zaměřování, dohledu a rozhodování na bojišti, „experimentální“ začne znít jako papírový štítek na něčem, co už je v pohybu.
🏭 Japonská SoftBank spouští divizi pro vývoj domácí umělé inteligence ↗
SoftBank se spojil se společnostmi Sony, Honda a dalšími japonskými společnostmi a vytvořil nový podnik v oblasti umělé inteligence zaměřený na „fyzickou umělou inteligenci“ – modely určené k ovládání strojů a robotů, nikoli jen k odpovídání textovými zprávami. To je jiná a možná i zajímavější cesta než obvyklá soutěž chatbotů.
Ambice jsou obrovské, přičemž úsilí údajně směřuje k velmi rozsáhlému modelu nadace a dlouhé dráze k průmyslovému využití. Zčásti je to strategie národních technologií, zčásti střelba na Měsíc, zčásti anime mechů se zasedáními správní rady.
Často kladené otázky
Proč se britskí regulátoři bedlivě zabývají modelem Mythos od společnosti Anthropic?
Zprávy naznačují, že britské úřady považují Mythos za potenciální riziko, protože může být neobvykle zdatný v hledání softwarových zranitelností. Do diskusí údajně patří Bank of England, FCA, ministerstvo financí a Národní centrum pro kybernetickou bezpečnost. Tato kombinace institucí signalizuje obavy z možných dopadů na kritické systémy, zejména ve financích a infrastruktuře.
Čím se model Anthropic Mythos liší od běžné verze s umělou inteligencí?
Obava nespočívá jen v tom, že se jedná o nový model, ale v tom, že se zdá být obzvláště schopný v obranné bezpečnostní práci související s odhalováním softwarových slabin. Anthropic údajně uvádí, že přístup je přísně omezen, což naznačuje, že se s jeho zavedením zachází opatrněji než s jeho širokým uvedením na trh pro spotřebitele. V praxi se to zdá být spíše kontrolovanou bezpečnostní funkcí než standardní aktualizací chatbota.
Proč se Claudeovi na konferenci HumanX dostávalo tolik pozornosti?
Podle článku se Claude opakovaně objevoval v panelových diskusích, rozhovorech s dodavateli a neformálních diskusích jako silná volba pro obchodní a kódovací pracovní postupy. Článek prezentuje Anthropic jako platformu, která na této akci zaznamenala u podnikových uživatelů pozoruhodný úspěch. Naznačuje také, že nálada kolem HumanX byla na ChatGPT utlumenější, přestože OpenAI stále disponuje velkým rozsahem a zdroji.
Co Claude for Word vlastně dělá pro týmy s velkým množstvím dokumentů?
Beta verze popsaná zde je navržena tak, aby fungovala uvnitř dokumentů, nikoli pouze pro generování samostatného textu. Dokáže odpovídat na otázky týkající se dokumentu pomocí citací sekcí, upravovat vybrané pasáže bez narušení formátování a zpracovávat sledované změny. Díky tomu je obzvláště relevantní pro právní, finanční a další týmy, které potřebují pečlivou kontrolu, nikoli hrubé formulace.
Co říká poměr crawl-to-refer (procházení a odkazování) o AI botech a webu?
Článek prezentuje tento poměr jako způsob, jak porovnat, kolik společností zabývajících se umělou inteligencí procházejí webové stránky, s tím, jak často posílají uživatele zpět. V tomto kontextu velmi vysoký poměr naznačuje extrakci s malou návratovou návštěvností. Anthropic je podle tohoto měřítka popisován jako obzvláště špatně fungující, což zostřuje širší kritiku, že vyhledávače odpovědí s umělou inteligencí mohou oslabovat starší webovou burzu indexování výměnou za doporučení.
Proč lidé spojují pokrok v oblasti umělé inteligence s autonomními zbraněmi i fyzickou umělou inteligencí?
Článek poukazuje na dva související trendy: vlády urychlující zavádění obranných systémů podporovaných umělou inteligencí a společnosti jako SoftBank podporující modely určené k řízení strojů a robotů. Společně ukazují, že se umělá inteligence posouvá za hranice chatu a vyhledávání do fyzických systémů, které dokáží vnímat, rozhodovat a jednat. To vyvolává širší otázky ohledně kontroly, odpovědnosti, průmyslového využití a toho, jak rychle se tyto systémy přesunou z experimentální do operační fáze.