🧒 OpenAI spouští predikci věku na ChatGPT ↗
OpenAI začala do ChatGPT zavádět vrstvu „predikce věku“ – tichý systém, který se snaží odvodit, kdy účet pravděpodobně patří nezletilé osobě, a poté zacvakne další bezpečnostní zábradlí. Pokud si myslí, že je vám méně než 18 let, automaticky zúží přístup k citlivějšímu obsahu.
Když se hádá špatně (což… se někdy stane), řešením je ověření identity prostřednictvím Persony s využitím selfie. To se také prolíná s širšími změnami platforem, jako jsou experimenty s „režimem pro dospělé“ a monetizačními kroky, které, upřímně řečeno, působí jako pár talířů točících se najednou.
🏦 Británie potřebuje „zátěžové testy umělé inteligence“ pro finanční služby, říkají zákonodárci ↗
Britští zákonodárci v podstatě říkají: přestaňte být k umělé inteligenci ve financích klidní. Jejich argumentem je, že regulátoři a vlády by měly testovat systémy umělé inteligence pod tlakem, podobně jako banky podstupují zátěžové testy – protože „oops“ v říši peněz má tendenci se rychle šířit.
Problém je ten druh problému, který se projevuje pouze ve velkém měřítku: zkreslení, kaskády chyb, podvodné vzorce, zpětnovazební smyčky. Je to jako nechat batole řídit autobus, protože silnice je rovná… dokud najednou není rovná.
🏛️ Jmenováni šampioni AI, kteří pomohou městu bezpečně využít příležitostí v oblasti AI ↗
Britská vláda jmenovala dva „šampiony umělé inteligence“, kteří mají pomoci urychlit zavádění umělé inteligence ve finančních službách – s obvyklými sliby růstu, produktivity, investic a všech těch dobře znějících strojů.
Pozoruhodné je vyvážení: energie „rychlého pohybu“ s nápisem „bezpečného pohybu“ nahoře. Uklidňující… nebo mírně komické, v závislosti na vaší náladě ten den.
💰 Humans&, startup zaměřený na umělou inteligenci „zaměřený na člověka“, založený absolventy Anthropic, xAI a Googlu, získal počáteční investici ve výši 480 milionů dolarů ↗
Humans& dorazili s obrovským počátečním kolem a týmem, který zní jako „startovací balíček AI laboratoře“ – lidé z velkých modelářských dílen a velkých technologických firem. Uvedeným cílem je méně chatbotů a více „pomoci lidem koordinovat a spolupracovat“ se systémy, které mohou fungovat jak na lidech, tak i na agentech AI.
Je to spousta peněz na něco, co je ještě v rané fázi, což je buď známkou sebevědomí trhu… nebo tím, že si všichni kolektivně kupujeme ohňostroje, protože se nám líbí jejich zvuk. Upřímně řečeno, mohlo by to být obojí.
⚖️ Legální startup s umělou inteligencí Ivo získává v nejnovějším kole financování 55 milionů dolarů ↗
Startup Ivo, který se zabývá právnickou umělou inteligencí, získal nové finanční prostředky na rozvoj své platformy a zvýšení prodeje, a to na vlně advokátních kanceláří a interních právních týmů, které automatizují pracovní postupy s vysokou administrativní náročností.
Tato kategorie stále vítězí, protože její hodnota je přímočará a jednoduchá: méně hodin strávených opakující se prací s dokumenty, méně věcí, které proklouznou skrz naskrz. Není to sice okouzlující, ale velmi, velmi placené.
🧠 Tchajwanský Inventec tvrdí, že rozhodnutí o čipu Nvidia H200 „zdá se být na straně Číny“ ↗
Tchajwanský výrobce serverů uvedl, že otázka prodeje čipu H200 od společnosti Nvidia s umělou inteligencí do Číny se zdá být „zaseknutá“ – což naznačuje, že úzkým hrdlem nejsou jen externí pravidla, ale také schvalování na straně Číny nebo interní dynamika.
To je neatraktivní realita hardwaru umělé inteligence: všichni mluví o modelech a agentech, ale celá budoucnost se může odvíjet od několika úzkých míst, povolení a politiky dodavatelského řetězce. Je to jako plánovat start rakety… a pak si uvědomit, že jste zapomněli klíček od palivového ventilu.
Často kladené otázky
Jaká je předpověď věku OpenAI na ChatGPT a co se změní, pokud jste označeni jako mladší 18 let?
Společnost OpenAI zavedla nenápadnou vrstvu „predikce věku“, která se pokouší odvodit, zda účet pravděpodobně patří nezletilé osobě. Pokud systém dojde k závěru, že je vám méně než 18 let, ChatGPT automaticky použije další bezpečnostní opatření. V praxi to obvykle znamená přísnější limity pro obsah považovaný za citlivější. Cílem je snížit riziko, aniž by byl každý uživatel nucen předem deklarovat svůj věk.
Co se stane, když se předpověď věku v ChatGPT splete?
Pokud se predikce věku v ChatGPT selže a dospělá osoba bude označena jako osoba mladší 18 let, je uvedeným řešením ověření identity. V tomto zavedení je toto ověření provedeno prostřednictvím Persony s využitím selfie. Po ověření se účet může vrátit k normálnímu přístupu, místo aby zůstal uzamčen za přísnějšími bezpečnostními opatřeními. Je to kompromis: méně rizikových okrajových případů a větší tření, když systém odhadne nesprávně.
Jak zapadá ověřování selfie z Persony do bezpečnostního přístupu OpenAI?
Persona slouží jako mechanismus pro řešení nejistoty související s věkem, když je systémový závěr považován za nespolehlivý. Proces ověřování identity na základě selfie je prezentován jako nápravný krok po nesprávné predikci věku. Na mnoha platformách se tento typ kroku používá k vyvážení bezpečnosti a přístupu, aniž by se trvale blokovali legitimní uživatelé. Také ukazuje na větší vynucování na úrovni účtů, nikoli pouze na úrovni filtrování na úrovni výzvy.
Proč OpenAI nyní zavádí věkové omezení a co to má společného s „režimem pro dospělé“?
Tato aktualizace přichází spolu s širšími změnami platformy, včetně experimentů s „režimem pro dospělé“ a kroků v oblasti monetizace zmíněných ve stejné diskusi. Predikce věku v ChatGPT se v podstatě stává přepínačem, který určuje, kdo dostane přísnější výchozí nastavení oproti širšímu přístupu. To je užitečné pro platformu testující různé zážitky napříč různým publikem. Může také omezit vystavení rizikovějšímu obsahu a zároveň umožnit expanzi i jinde.
Co jsou „zátěžové testy umělé inteligence“ pro britské finanční služby a proč je zákonodárci chtějí?
Britští zákonodárci volají po „zátěžových testech umělé inteligence“, které by se systémy umělé inteligence chovaly spíše jako banky: prověřily by je dříve, než se problémy rozšíří. Obavy vyvstávají z toho, že zkreslení, kaskády chyb, vzorce podvodů a smyčky zpětné vazby se mohou projevit až ve velkém měřítku. Ve financích se malá selhání mohou rychle šířit prostřednictvím úzce propojených systémů. Zátěžové testování má odhalit slabiny dříve, než budou ovlivněny skutečné peníze a skuteční zákazníci.
Kdo jsou „šampioni umělé inteligence“ ve Spojeném království pro město a co mají dělat?
Britská vláda jmenovala dva „šampiony umělé inteligence“, kteří mají pomoci urychlit zavádění umělé inteligence ve finančních službách. Jejich role je koncipována tak, aby pomohla městu využít příležitostí, které umělá inteligence nabízí, a zároveň to činit „bezpečně“. V praxi se jedná o koordinaci a prosazování: podporu zavádění, podporu osvědčených postupů a sladění zúčastněných stran. Signalizuje to, že vláda chce rychlejší zavádění s viditelným bezpečnostním obalem.