Google zpochybní německé rozhodnutí, které tvrdí, že je odpovědný za nepravdivá tvrzení generovaná umělou inteligencí ↗
Google se plánuje odvolat proti rozhodnutí mnichovského soudu, které klasifikuje přehledy AI jako vlastní publikovaný obsah společnosti, a nese tak právní odpovědnost, pokud tyto souhrny obsahují nepravdivá tvrzení.
Případ podali dva němečtí vydavatelé, kteří byli mylně spojováni s podvody a pochybnými obchodními praktikami. Google popisuje chyby jako těsné, ale toto rozhodnutí by mohlo uvalit překvapivě závažné právní následky na každý vyhledávač odpovědí s umělou inteligencí. (Reuters)
Vedoucí představitelé technologií se zúčastní summitu G7, kde se budou lídři zabývat umělou inteligencí a online bezpečností ↗
Očekává se, že se k představitelům G7 připojí lídři společností OpenAI, Anthropic, Google DeepMind, Mistral AI, Cohere a Meta, aby diskutovali o regulaci umělé inteligence, infrastruktuře a online bezpečnosti.
Na stole je i online ochrana dětí. Takže ano, odvětví umělé inteligence si zaslouží místo po boku světových lídrů – i když zda to přináší skutečnou odpovědnost, nebo jen mimořádně zdobený oběd, zůstává nejasné. (Reuters)
Anthropic tvrdí, že kvůli nařízení americké vlády odpojuje Claude Fable 5 od internetu ↗
Společnost Anthropic vyřadila z provozu lodě Claude Fable 5 a Mythos 5 poté, co obdržela americkou směrnici o kontrole vývozu, která měla zabránit přístupu cizincům, včetně zaměstnanců Anthropic.
Společnost odebrala přístup všem a zároveň zpochybnila odůvodnění vlády. Úředníci údajně poukazovali na obavy z jailbreaku, ale Anthropic tvrdí, že demonstrovaný bypass byl úzký a odhalil pouze relativně drobné, dříve známé zranitelnosti... mírně řečeno trapné. (WIRED)
Nová jednotka umělé inteligence společnosti Meta je údajně v chaosu ↗
Podle zaměstnanců a firemních diskusí, které prostudoval server WIRED, čelí oddělení aplikované umělé inteligence společnosti Meta značné vnitřní frustraci. Skupina zhruba 6 500 lidí byla sestavena na podporu výzkumníků superinteligence společnosti Meta.
Zaměstnanci údajně mají pocit, že byli vtaženi do opakující se práce na vylepšování modelu uprostřed nejasného vedení a nepravidelných priorit. Napětí se vyhrotilo, když jeden ze zaměstnanců přerušil rozsáhlou interní prezentaci sprostou tirádou plnou nadávek – nenápadnou, ale nenápadnou. (WIRED)
Čínská kyberzločinná operace, která pomocí umělé inteligence podvedla „statisíce obětí“, je žalována společností Google ↗
Google žaluje Outsider Enterprise, údajnou síť pro kybernetickou kriminalitu obviněnou z používání nástrojů s podporou umělé inteligence k vytváření přesvědčivých phishingových stránek a rozesílání podvodných textových zpráv vydávajících se za významné značky.
Google uvádí, že v rámci operace byly nasazeny tisíce falešných webových stránek, zhruba milion podvodných domén a miliony zpráv. Jeho software údajně umožňoval lidem s omezenými technickými dovednostmi během několika minut vytvořit phishingovou infrastrukturu – kyberkriminalitu s pevně přivařenými tréninkovými kolečky. (TechCrunch)
Často kladené otázky
Proč se Google odvolává proti rozhodnutí německé komise AI Overviews?
Google plánuje napadnout rozhodnutí mnichovského soudu, které považuje přehledy umělé inteligence za obsah publikovaný samotným Googlem. Rozhodnutí následovalo po falešných shrnutích, která spojovala dva německé vydavatele s podvody a pochybnými obchodními praktikami. Pokud bude rozhodnutí potvrzeno, mohlo by poskytovatele odpovědí s umělou inteligencí učinit právně odpovědnými za nepřesná tvrzení generovaná v jejich souhrnech vyhledávání.
Co by mohlo německé rozhodnutí znamenat pro odpovědnost umělé inteligence?
Toto rozhodnutí by mohlo stanovit širší standard pro odpovědnost umělé inteligence tím, že by platformu činilo odpovědnou za prohlášení vytvořená prostřednictvím jejích vlastních funkcí umělé inteligence. Soudy v mnoha jurisdikcích stále rozhodují o tom, zda by se s vygenerovanými souhrny mělo zacházet jako s hostovaným obsahem třetích stran, nebo jako s přímou publikací. Odvolání by proto mohlo ovlivnit způsob, jakým se srovnatelné spory řeší jinde.
Proč se technologickí manažeři účastní summitu G7?
Očekává se, že se diskusí s lídry G7 zúčastní vedoucí pracovníci společností OpenAI, Anthropic, Google DeepMind, Mistral AI, Cohere a Meta. Na programu je regulace umělé inteligence, infrastruktura, online bezpečnost a ochrana dětí. Jejich účast dává vládám příležitost přímo se ptát hlavních vývojářů umělé inteligence na rizika, odpovědnosti a budoucí politiku.
Proč Anthropic odstavil Claude Fable 5 a Mythos 5 z offline režimu?
Společnost Anthropic oba modely deaktivovala poté, co obdržela směrnici USA o kontrole exportu, která měla zabránit přístupu některým cizincům, včetně některých zaměstnanců. Společnost přístup všem odebrala a zároveň zpochybnila argumentaci vlády. Úředníci údajně zmínili obavy z jailbreaku, ačkoli Anthropic popsala demonstrovaný bypass jako úzký a zahrnující relativně drobné zranitelnosti, které byly již známé.
Co způsobuje hlášené nepokoje uvnitř jednotky umělé inteligence společnosti Meta?
Zaměstnanci údajně popisují nejasné vedení, měnící se priority a opakující se práci na vylepšování modelů v rámci oddělení aplikované umělé inteligence společnosti Meta. Skupina byla vytvořena na podporu výzkumníků superinteligence ve společnosti a zahrnuje zhruba 6 500 lidí. Frustrace se stala obzvláště viditelnou, když jeden ze zaměstnanců přerušil rozsáhlou interní prezentaci rozzlobenou stížností plnou nadávek.
Jak zločinci využívají umělou inteligenci k phishingovým podvodům?
Podle žaloby společnosti Google údajná síť Outsider Enterprise používala software s podporou umělé inteligence k vytváření přesvědčivých phishingových webových stránek a podvodných zpráv, které se vydávaly za významné značky. Nástroje údajně pomáhaly uživatelům s omezenými technickými zkušenostmi rychle vybudovat phishingovou infrastrukturu. Google uvádí, že operace zahrnovala tisíce falešných stránek, přibližně milion podvodných domén a miliony zpráv.