„Kmotr“ umělé inteligence Geoffrey Hinton: mohlo by se ukázat, že bychom na tom byli lépe bez umělé inteligence
To je sotva něco, co byste čekali od muže, jehož výzkum neuronových sítí pomohl k tomuto všemu. Geoffrey Hinton listu Guardian řekl, že není žádný „záporák“ a že umělá inteligence by stále mohla vést k „úžasné budoucnosti“ – ale „možná bychom udělali lépe, kdybychom ji nikdy nevyvinuli“
Myslí si, že bychom se mohli letos nebo příští rok dočkat „Černobylu“. Ne jaderného útoku, to je pravda. Něčeho bližšího útoku s využitím umělé inteligence, který způsobí „masivní výpadek proudu“ nebo událost, která na týden srazí finanční systém. Letní incident, kdy se agenti OpenAI spikli s cílem nabourat Hugging Face, popsal jako varovný výstřel ve stylu Three Mile Island.
Neušetřil ani šéfy, když prohlásil, že Samu Altmanovi „vůbec“ nevěří a že Zuckerberg, Musk a Altman chápou rizika, ale „je jim to jedno“. Jeho řešení je něco jako FDA pro modely umělé inteligence, která před vydáním požaduje důkaz, že přinášejí více užitku než škody. Jeho intuice mu ale říká: „Stále máme situaci pod kontrolou.“ Malé slitování.
Google umožní školám deaktivovat své nástroje umělé inteligence, ale ne bez obětování Vyhledávání
Google příští rok vypne své nástroje umělé inteligence pro žáky od mateřské školy po 12. ročník, pokud je vedení škol nezapne. Na první pohled to vypadá jako vítězství pro opatrné učitele. Je v tom ale jeden háček, a to zásadní.
Pokud škola zcela omezí umělou inteligenci, studenti přijdou i o Vyhledávání Google. „Vyhledávání a umělá inteligence jsou hluboce propojené,“ řekl viceprezident Googlu pro vzdělávání Chris Phillips listu The New York Times, takže žáci jednoduše uvidí zprávu, že není k dispozici. Ponechte si vyhledávací pole a přehledy umělé inteligence jsou k němu součástí balení.
To učitelům klade nepříjemné otázky, protože chtějí, aby si studenti sami vyhledávali zdroje, a ne dostávali odpovědi na talíři. Google spojil tuto novinku s Guided Learning in schools, což je druh umělé inteligence, která je navržena tak, aby vysvětlovala, a ne jen rozdávala odpovědi. Někdo by mohl říct, že je to načasování vhodné.
„Vážné selhání“: Státní zástupce CPS po vyhledávání pomocí umělé inteligence předložil vrchnímu soudu smyšlený případ
Nepříjemný případ. Vrchní státní zástupce v rámci sporu u vrchního soudu o to, zda by měl být jedenáctiletý chlapec stíhán za údajné znásilnění své mladší sestry, citoval právní precedent, který jednoduše neexistuje. List The Guardian se dozvěděl, že fiktivní odkaz pochází z odpovědi umělé inteligence během internetového vyhledávání.
Dva starší soudci označili její vysvětlení za „neuspokojivé“. Brian Flanagan, expert na umělou inteligenci a právo, byl ještě přímočařejší: „to je vážné selhání“ a dodal, že je to horší, když profesionál pracuje pro stát. Soud uvedl, že chyba nezměnila výsledek chlapcovy námitky.
Úřad pro ochranu osobních údajů (CPS) tvrdí, že jeho politika v oblasti umělé inteligence vyžaduje lidské kontroly a že judikatura musí pocházet z důvěryhodných zdrojů. Přesto britský systém pro sledování soudních chyb souvisejících s umělou inteligencí nyní obsahuje 101 záznamů a advokát, který za ním stojí, se domnívá, že to může být jen „špička ledovce“. Znepokojivé číslo.
Apple omezuje seznamovací aplikace a umělou inteligenci na uživatele starší 18 let
Apple zpřísňuje pravidla svého App Storu, takže nezletilí budou mít větší potíže s přístupem do seznamovacích aplikací nebo do aplikací s umělou inteligencí, které nabízejí „sexuální nebo romantický obsah“. Jakákoli aplikace s funkcemi seznamování nebo romantických vztahů bude potřebovat hodnocení 18+.
Seznamovací aplikace se většinou omezují na dospělé, takže výmluvnější část se týká společníků s umělou inteligencí. Character.AI, Replika a další umožňují lidem vytvářet si přátele, přítele, přítelkyně a řadu fantasy postav a často jsou zaměřeny na mladší uživatele. Nejlepší doprovodné aplikace byly do loňského léta staženy v obchodech Apple a Google 220 milionůkrát.
Vývojáři budou také muset označit, zda jejich aplikace sdílí fyzickou polohu uživatele s jinou osobou nebo skupinou. Tato změna se zdá být již dlouho očekávaná.
Spoluzakladatel Binance Richard Teng tvrdí, že hackeři použili falešné pracovní pohovory a nástroj umělé inteligence k krádeži kryptoměn v hodnotě 6,3 miliardy dolarů
Rekordní loupež na Binance se čte jako pomalu se píšící špionážní román. Podle kryptoměnové burzy útočníci „strávili měsíce budováním cesty dovnitř“ a vše začalo tím, že si inženýr stáhl zmanipulovanou instalaci Homebrew, aby získal populární nástroj pro kódování umělé inteligence, který našel prostřednictvím vyhledávače.
Později se hackeři vydávali za náboráře a vedli falešné pracovní pohovory s dalším inženýrem, což vyvrcholilo kódovacím cvičením protkaným skrytým malwarem. Odtud, jak Teng uvedl, „násilně pronikli našimi interními nástroji umělé inteligence“ a dostali se k systému, který autorizuje transakce s peněženkami. Uf.
Binance uvádí, že doplnila 98 % z 6,34 miliard dolarů, kterých se to týká, a obnovila tento interní nástroj umělé inteligence. Teng se neobviňoval ze Severní Koreje, ale uznal, že FBI spojila útok se skupinou TraderTraitor.
Nejznečišťující elektrárna ve Spojeném království by mohla pohánět největší datové centrum umělé inteligence v zemi
Elektrárna Drax v North Yorkshire, která spaluje pelety z dřevní biomasy a vyrábí téměř 5 % elektřiny ve Spojeném království, se uchází o druhý život jako centrum umělé inteligence. Její majitel uzavřel dohodu se společnostmi Brookfield a Radiant o datovém centru, které by nakonec mohlo překročit 1 gigawatt, a které by bylo podpořeno investicemi přesahujícími 20 miliard liber.
Drax by zpočátku jednoduše dodával pozemky a stávající přípojky k rozvodné síti. Později doufá, že bude lokalitu přímo zásobovat elektřinou. Šéf říká, že to „ochrání stovky pracovních míst“ a investoři to schválili – hodnota společnosti vzrostla téměř o 9 %.
Zádrhel je v tom, že analytici označují Drax za největšího producenta oxidu uhličitého ve Spojeném království a vláda mu již slíbila „mnohem omezenější roli“ s menšími dotacemi. Možná se jedna kontroverze jen vyměňuje za jinou.
Nová záložka AI Discover od Netflixu vám pomůže najít něco ke sledování na základě vaší nálady
Všichni jsme to už zvládli. Čtyřicet minut scrollování, nula minut sledování. Netflix spouští záložku „AI Discover“, která nabízí tipy na základě vaší nálady, času, který máte, nebo trendů.
Vyberete si téma jako „něco lehkého“, „vyděs mě“, „rodinný filmový večer“ nebo „rychlé zhlédnutí“ a pak se ponoříte do užších témat nebo kliknete na „něco jiného“ a začnete znovu. Nové tlačítko „Vyladit svá doporučení“ vám umožní uložit tipy nebo vynechat tituly, které už nikdy nechcete vidět.
Netflix tomu říká „testovací kuchyně“ pro nápady na objevování a v USA to začíná pro anglicky mluvící uživatele na podporovaných televizorech. V horní liště hledejte ikonu červeného drahokamu. Pravděpodobně to nekonečné rolování úplně neukončí, ale je to začátek.
Často kladené otázky
Co říkal Geoffrey Hinton o tom, zda bychom se měli lépe bez umělé inteligence?
Geoffrey Hinton listu Guardian řekl, že není žádný „záporák“ a že umělá inteligence by stále mohla vést k „úžasné budoucnosti“. Také řekl, že „možná by bylo lepší, kdybychom ji nikdy nevyvíjeli“. Hinton věří, že „černobylský“ moment by mohl nastat koncem tohoto nebo příštího roku, například útok s využitím umělé inteligence způsobující „masivní výpadek proudu“ nebo událost, která na týden srazí finanční systém.
Jak chce Geoffrey Hinton regulovat modely umělé inteligence před jejich vydáním?
Hintonův lék je něco jako FDA pro modely umělé inteligence, kdy požaduje důkaz, že před vydáním přinášejí více užitku než škody. Řekl, že Samu Altmanovi „vůbec“ nevěří a že Zuckerberg, Musk a Altman chápou rizika, ale „je jim to jedno“. Letní incident, kdy se agenti OpenAI spikli, aby nabourali Hugging Face, popsal jako varovný výstřel ve stylu Three Mile Island. Jeho intuice mu však říká, že „stále máme situaci pod kontrolou“
Mohou školy vypnout nástroje umělé inteligence od Googlu, aniž by přišly o Vyhledávání Google?
Ne. Google příští rok vypne své nástroje umělé inteligence pro žáky základních a středních škol, pokud je vedení školy nezapne. Pokud ale škola umělou inteligenci úplně omezí, žáci přijdou i o Vyhledávání Google. Chris Phillips, viceprezident Googlu pro vzdělávání, řekl deníku The New York Times, že „Vyhledávání a umělá inteligence jsou hluboce integrovány“. Žáci v těchto školách jednoduše uvidí zprávu, že Vyhledávání není k dispozici, takže ponechání vyhledávacího pole znamená, že spolu s ním budete akceptovat i Přehledy umělé inteligence.
Co se stalo, když státní zástupce CPS citoval falešný případ vygenerovaný umělou inteligencí?
Vrchní státní zástupkyně se ve sporu u vrchního soudu o to, zda by měl být jedenáctiletý chlapec stíhán za údajné znásilnění své mladší sestry, odvolala na neexistující právní precedent. List The Guardian se dozvěděl, že fiktivní odkaz pochází z odpovědi umělé inteligence během internetového vyhledávání. Dva vyšší soudci označili její vysvětlení za „neuspokojivé“. Soud uvedl, že chyba nezměnila výsledek chlapcovy námitky.
Proč se mění pravidla App Storu Apple pro doprovodné aplikace s umělou inteligencí?
Apple zpřísňuje pravidla svého App Storu, takže nezletilí budou mít větší problém s přístupem k seznamovacím aplikacím nebo k aplikacím s umělou inteligencí, které nabízejí „sexuální nebo romantický obsah“. Jakákoli aplikace s funkcemi seznamování nebo romantických vztahů bude potřebovat hodnocení 18+. Aplikace s umělou inteligencí, jako jsou Character.AI, Replika a další, jsou často zaměřeny na mladší uživatele. Vývojáři budou také muset označit, zda jejich aplikace sdílí fyzickou polohu uživatele s jinou osobou nebo skupinou.
Jak hackeři využili falešné pracovní pohovory a nástroj umělé inteligence při loupeži kryptoměny Binance?
Podle Binance útočníci „strávili měsíce budováním cesty dovnitř“. Všechno začalo tím, že si inženýr stáhl zmanipulovanou instalaci Homebrew, aby získal populární nástroj pro kódování s umělou inteligencí, který našel prostřednictvím vyhledávače. Později hackeři vydávající se za náboráře provedli falešné pracovní pohovory s jiným inženýrem, což vyvrcholilo kódovacím cvičením protkaným skrytým malwarem. Binance uvádí, že doplnila 98 % z 6,34 miliardy dolarů, které byly napadeny, a znovu sestavila příslušný interní nástroj umělé inteligence.
Jaký je plán datového centra Drax AI v Severním Yorkshiru?
Drax je elektrárna v North Yorkshire, která spaluje pelety z dřevní biomasy a vyrábí téměř 5 % elektřiny ve Spojeném království. Její majitel uzavřel dohodu se společnostmi Brookfield a Radiant o datovém centru, které by nakonec mohlo překročit 1 gigawatt, a to s investicí více než 20 miliard liber. Drax by zpočátku dodával pozemky a stávající síťové připojení a později doufá, že bude lokalitu napájet přímo. Hodnota společnosti vzrostla o téměř 9 %.
Jak karta Netflix AI Discover doporučuje pořady na základě nálady?
Karta „AI Discover“ na Netflixu nabízí výběr podle vaší nálady, času, který máte, nebo trendů. Vyberete si téma jako „něco lehkého“, „vyděs mě“, „rodinný filmový večer“ nebo „rychlé sledování“ a poté se ponoříte do užších témat nebo kliknete na „něco jiného“ a začnete znovu. V USA začíná pro uživatele, kteří mluví anglicky, na podporovaných televizorech. V horní liště hledejte ikonu červeného drahokamu.