🧾 Země EU a zákonodárci dosáhli předběžné dohody o oslabených pravidlech pro umělou inteligenci ↗
Evropská pravidla pro umělou inteligenci se dočkala mírnějšího přepracování. Zákonodárci a země EU dosáhly předběžné dohody o zjednodušení částí zákona o umělé inteligenci, přičemž klíčová pravidla pro vysoce rizikové systémy byla odložena a některé mechanismy byly vyňaty.
Pořád to ale má své štiplavé místo. Dohoda zakazuje sexuálně explicitní obrázky vytvořené umělou inteligencí bez jejího souhlasu a zachovává vodoznaky pro výstupy generované umělou inteligencí. V jistém smyslu je to zároveň krok zpět i tvrdý zákrok – v podstatě politika dělá jógu.
🎙️ Pokročilá hlasová inteligence s novými modely v API ↗
OpenAI vydala pro vývojáře novou várku modelů zvuku v reálném čase: GPT-Realtime-2, GPT-Realtime-Translate a GPT-Realtime-Whisper.
Prezentace je větší než jen „mluvící chatbot“. Tyto modely mají za úkol uvažovat během mluvení, živě překládat mezi jazyky, přepisovat, jak lidé mluví, a zvládat hlasové pracovní postupy podobné agentům. Hlasová umělá inteligence začíná vypadat méně jako telefonní menu a více jako lehce kofeinově omámený asistent.
🛟 Představujeme důvěryhodný kontakt v ChatGPT ↗
OpenAI představila funkci Důvěryhodný kontakt, volitelnou bezpečnostní funkci ChatGPT, která umožňuje dospělým nominovat někoho, kdo může být upozorněn, pokud systémy a vyškolení kontroloři odhalí vážné obavy ze sebepoškozování.
Tato funkce je navržena jako další vrstva, nikoli jako náhrada krizových linek, záchranných služeb nebo profesionální péče. Důležitou roli zde hraje i aspekt soukromí – upozornění mají někoho spojit s podporou mimo aplikaci, aniž by se celá konverzace musela přenášet na někoho jiného.
💸 Čínská společnost Moonshot AI získala 2 miliardy dolarů na hodnotě 20 miliard dolarů, poptávka po open source umělé inteligenci prudce roste ↗
Společnost Moonshot AI údajně získala přibližně 2 miliardy dolarů při ocenění 20 miliard dolarů, s podporou vedenou rizikovou divizí společnosti Meituan a dalšími čínskými investory.
Větším problémem je zájem o modely s otevřenou hmotností. Řada Kimi od Moonshotu si získává velkou podporu vývojářů, zejména mezi uživateli, kteří jsou ochotni vyměnit trochu špičkového výkonu za levnější inferenci. Možná ne okouzlující, ale extrémně výkonné.
🛡️ Rizika pro finanční stabilitu narůstají, protože umělá inteligence podporuje kybernetické útoky ↗
MMF varoval, že umělá inteligence zrychluje, zlevňuje a škáluje kybernetické útoky – což není zrovna ten druh zvýšení produktivity, o který by si kdokoli přál.
Jeho zájmem je finanční stabilita. Pokud útočníci mohou pomocí nástrojů umělé inteligence vyhledávat a zneužívat slabiny průmyslovou rychlostí, banky, trhy a platební systémy potřebují silnější odolnost, dohled a mezinárodní koordinaci. Suchá fráze, vážný problém.
⚖️ Americký soudní panel odkládá jednání o důkazech generovaných umělou inteligencí a deep fakes ↗
Americký soudní panel odložil u soudu jednání o navrhovaných pravidlech pro důkazy generované umělou inteligencí a deepfaky poté, co soudci a právníci návrhy zamítli.
Napětí je zřejmé: soudy nechtějí, aby se do procesů proplétaly falešné zvukové nebo obrazové záznamy, ale někteří soudci se obávali, že se systém možná snaží regulovat problémy, které dosud plně neviděl. Rozumná opatrnost, nebo otálení? Pravděpodobně trochu obojí.
🏗️ Nvidia investuje do IREN až 2,1 miliardy dolarů v rámci dohody o datovém centru s umělou inteligencí ↗
Společnost Nvidia plánuje investovat až 2,1 miliardy dolarů do provozovatele datových center IREN v rámci dohody vázané na až 5 gigawattů infrastruktury umělé inteligence.
To je v jedné větě boom umělé inteligence: čipy už nestačí, všichni se honí za energií, pozemky, chlazením a obřími výpočetními boxy uprostřed něčeho. Metafora továrny se stává téměř doslovnou.
Často kladené otázky
Co se změnilo v prozatímní dohodě EU o umělé inteligenci?
Prozatímní dohoda zjednodušuje části evropských pravidel pro umělou inteligenci a odkládá některá pravidla pro vysoce rizikové systémy umělé inteligence. Z pravidel také vylučuje určité mechanismy. Zároveň přidává přísnější opatření, včetně zákazu sexuálně explicitních obrázků vytvořených umělou inteligencí bez souhlasu a požadavků na vodoznaky pro výstupy generované umělou inteligencí.
Proč tento přehled zpráv o umělé inteligenci popisuje dohodu s EU jako krok zpět i jako tvrdý zásah?
Dohoda změkčuje některé části zákona o umělé inteligenci (AI Act) odložením nebo zjednodušením požadavků, zejména těch, které se týkají vysoce rizikových systémů. Zároveň však zpřísňuje vymáhání v citlivých oblastech, včetně explicitních obrázků s umělou inteligencí bez souhlasu a označování obsahu generovaného umělou inteligencí. Tato kombinace způsobuje, že se méně jedná o prostou deregulaci a spíše o cílené přepracování.
Co mají nové modely hlasu v reálném čase od OpenAI dělat?
Nové modely zvuku v reálném čase od OpenAI jsou navrženy pro pokročilejší hlasové pracovní postupy pro vývojáře. Článek zmiňuje GPT-Realtime-2, GPT-Realtime-Translate a GPT-Realtime-Whisper. Tyto modely jsou určeny pro logické uvažování o živé řeči, překlad, transkripci a hlasové interakce podobné agentům, spíše než pro základní hlasové odpovědi ve stylu chatbotů.
Jak funguje Důvěryhodný kontakt v ChatGPT?
Důvěryhodný kontakt je popisován jako volitelná bezpečnostní funkce pro dospělé používající ChatGPT. Umožňuje uživateli nominovat někoho, kdo může být upozorněn, pokud systémy a vyškolení kontroloři odhalí vážné obavy ze sebepoškozování. Článek zdůrazňuje, že se jedná o další vrstvu podpory, nikoli o náhradu krizových linek, záchranných služeb nebo profesionální péče.
Proč je financování Moonshot AI důležité v novinkách o umělé inteligenci?
Společnost Moonshot AI údajně získala přibližně 2 miliardy dolarů při ocenění 20 miliard dolarů, s podporou čínských investorů, včetně rizikové divize společnosti Meituan. Článek to prezentuje jako součást rostoucí poptávky po modelech s otevřenou hmotností. Řada Kimi od společnosti Moonshot je popisována jako získávající na popularitě u vývojářů, zejména tam, kde je atraktivní levnější inference.
Před jakými riziky kybernetické bezpečnosti v oblasti umělé inteligence varoval MMF?
MMF varoval, že umělá inteligence může kybernetické útoky zrychlit, zlevnit a snáze škálovat. Jeho obavy vyvolávají, že by to mohlo ohrozit finanční stabilitu, pokud by útočníci efektivněji zneužívali slabiny bank, trhů nebo platebních systémů. Článek poukazuje na posílení odolnosti, dohledu a mezinárodní koordinace jako důležité reakce.