OpenAI pozastaví práci na modelu umělé inteligence Astra kvůli bezpečnostním obavám ↗
Společnost OpenAI pozastavuje interní práci na platformě Astra, která nesplňuje přísnější bezpečnostní požadavky, poté, co hodnocení naznačila, že její kybernetické schopnosti mohly překročit „kritickou“ hranici. Agent by údajně mohl najít a zneužít zranitelnosti bez lidského zásahu nebo provádět útoky z cíle na vysoké úrovni. Ano... to je docela vážná hranice, kterou je třeba překročit.
Společnost zpřísňuje izolované testování, přístup k síti a nástrojům, ochranu na základě modelové váhy, šifrování a monitorování. Astra se sice do dřívějšího incidentu Hugging Face společnosti OpenAI nepodílela, ale širší vzorec stále více autonomních agentů činí z omezení mnohem větší problém. (Zdroj: The Guardian)
Apple tvrdí, že uživatelé Maců v Číně se mohou připojit ke službě Qwen s umělou inteligencí od Alibaby ↗
Oprávnění uživatelé Maců v pevninské Číně nyní mohou propojit Qwen od Alibaby se Siri a nástroji pro psaní od Apple. To znamená podrobnější odpovědi a analýzu dokumentů a obrázků, spolu s generováním textu a obrázků z popisů.
Upřímně řečeno, je to zajímavé spojení – Apple získává lokálně kompatibilní cestu k silnějším funkcím umělé inteligence na silně konkurenčním trhu s PC, zatímco Alibaba začleňuje Qwen mnohem hlouběji do ekosystému někoho jiného. Apple tvrdí, že materiál odeslaný prostřednictvím rozšíření nemůže Alibaba použít k trénování svých modelů. (Zdroj: Reuters)
Google DeepMind vstupuje do nové éry, spoluzakladatel Demis Hassabis mění svou roli v oblasti umělé inteligence ↗
Demis Hassabis se vzdává každodenního vedení DeepMindu a stává se předsedou představenstva, přičemž zároveň přebírá roli hlavního vědce ve společnosti Alphabet. Jeho dlouholetý kolega Koray Kavukcuoglu přebírá provozní řízení jako senior viceprezident, nikoli jako generální ředitel – nenápadná změna titulu, která však vypovídá o mnohém.
Tato rekonstrukce přichází souběžně s odchody dalších významných výzkumníků a otázkami, zda se DeepMind nestává méně nezávislým a více se začleňuje do komerčního systému umělé inteligence společnosti Google. Google popírá, že by tato změna souvisela s konkurenční výkonností Gemini. (Zdroj: The Guardian)
Rostoucí počet britských dětí hlásí, že vidí explicitní deepfaky sebe sama ↗
Hlášení od britských dětí o explicitních falešných nebo manipulovaných obrázcích jich samých prudce vzrostla. Služba Report Remove obdržela za pouhých šest měsíců 420 hlášení, čímž již překročila svůj předchozí roční počet 397 hlášení. Nástroje pro „nahé“ snímky s umělou inteligencí tento problém strašně usnadňují.
Nadace Internet Watch Foundation uvádí, že mnoho nahlášených manipulovaných obrázků bylo natolik závažných, že překročily hranici materiálu zobrazujícího sexuální zneužívání dětí. Některé oběti se staly také terčem sexuálního vydírání, kdy se z obrázků generovaných umělou inteligencí stala velmi hmatatelná zbraň. (Zdroj: The Guardian)
Průzkum ukazuje, že funkce umělé inteligence prudce převyšují obchodní hodnotu ↗
Softwarové společnosti zabývající se podnikovým softwarem sice chrlí funkcionalitu umělé inteligence, ale zákazníci jich ne vždy nutně využívají. V průzkumu mezi více než 260 vertikálními softwarovými společnostmi 51 % z nich uvedlo, že méně než čtvrtina jejich zákazníků využívá funkce umělé inteligence, které vytvořily. Po všech těch dodávkách je to trochu trapné...
Úzké hrdlo se méně podobá schopnostem umělé inteligence a spíše integraci, zabezpečení, soukromí, změnám pracovních postupů a prokazování konkrétní obchodní hodnoty. Jedním obzvláště zvláštním jevem je „tokenmaxxing“ – velké množství spotřeby umělé inteligence, které na dashboardu vypadá působivě, aniž by bylo jasné, že přináší lepší výsledky. (Zdroj: Forbes)
Umělá inteligence mění práci rychleji, než stačí data držet krok ↗
Argument o pracovních místech v oblasti umělé inteligence se stává čím dál zamotanějším, nikoli čistším. Studie zahrnující více než 21 000 amerických firem zjistila, že firmy s největším počtem zavádění umělé inteligence zvýšily celkový počet zaměstnanců o 10 % a počet zaměstnanců na základní úrovni o 12 %, zatímco firmy s menším počtem zavádění nevykázaly žádný nárůst počtu zaměstnanců.
Jiný výzkum však zjistil tlak na zaměstnanost mezi mladšími pracovníky v pozicích vystavených umělé inteligenci a ekonomové varují, že rostoucí společnosti mohou stále najímat, zatímco umělá inteligence mění povolání v celé ekonomice. Umělá inteligence tedy zabíjí pracovní místa a zároveň je vytváří... nebo se vám to alespoň snaží namluvit protichůdné datové soubory. (Zdroj: Fortune)
Často kladené otázky
Jaké jsou v současnosti největší novinky v oblasti umělé inteligence?
Nedávné zprávy o umělé inteligenci poukazují na několik překrývajících se témat: silnější autonomní schopnosti, přísnější bezpečnostní kontroly, hlubší integrace platforem, změny ve vedení, rizika online bezpečnosti a nejistá obchodní hodnota. OpenAI zpřísňuje ochranná opatření kolem Astry, Apple propojuje Qwen s Macy v Číně a DeepMind mění vedení. Zároveň rostou obavy ohledně deepfakeů, jejich zavádění v podnicích a vlivu umělé inteligence na zaměstnanost.
Proč OpenAI pozastavila některé práce na Astře?
OpenAI údajně pozastavila interní práci na Astře, která nesplňovala přísnější bezpečnostní požadavky, poté, co hodnocení naznačila, že kybernetické schopnosti modelu mohly dosáhnout kritické úrovně. Obavy vyvolávají, že pokročilý agent by mohl potenciálně odhalit a zneužít zranitelnosti s omezeným nebo žádným lidským zásahem. V reakci na to OpenAI posiluje izolované testování, řízení přístupu, šifrování, monitorování a ochranu týkající se vah modelů.
Jak bude Alibaba Qwen spolupracovat s Apple Macy v Číně?
Oprávnění uživatelé Maců v pevninské Číně mohou propojit službu Qwen od Alibaby se Siri a nástroji Apple Writing Tools. Integrace může podporovat podrobnější odpovědi, analýzu dokumentů a obrázků a generování textu nebo obrázků z popisů. Pro Apple toto uspořádání poskytuje lokálně kompatibilní cestu k silnější funkcionalitě umělé inteligence, zatímco Alibaba získává hlubší přístup k ekosystému Applu. Apple tvrdí, že odeslané materiály nelze použít k trénování modelů Alibaby.
Co znamená změna vedení DeepMind pro Google AI?
Demis Hassabis se vzdaluje od každodenního vedení DeepMindu a stal se předsedou představenstva a hlavním vědcem ve společnosti Alphabet. Koray Kavukcuoglu převezme provozní řízení jako senior viceprezident. Tato změna vyvolala otázky, zda se DeepMind více integruje s širšími komerčními operacemi společnosti Google v oblasti umělé inteligence, ačkoli Google zpochybňuje tvrzení, že tato rekonstrukce souvisí s konkurenčními výsledky společnosti Gemini.
Proč se deepfakey s využitím umělé inteligence stávají větším problémem pro bezpečnost dětí?
Nástroje pro manipulaci s obrázky poháněné umělou inteligencí mohou usnadnit vytváření realistických explicitních falešných obrázků ve velkém měřítku. Děti ve Spojeném království stále častěji hlásí manipulované nebo vykonstruované snímky sebe sama a některé případy byly natolik závažné, že splňovaly hranici pro materiál zobrazující sexuální zneužívání dětí. Tyto snímky lze také použít k sexuálnímu vydírání, což znamená, že vykonstruovaný obrázek může stále způsobit značnou újmu na pověsti, emocionální a finanční újmu.
Mají podniky a pracovníci z umělé inteligence prospěch?
Nejnovější zprávy o umělé inteligenci naznačují, že odpověď je smíšená. Mnoho softwarových společností přidává funkce umělé inteligence rychleji, než je zákazníci zavádějí, přičemž integrace, soukromí, zabezpečení a měřitelná obchodní hodnota zůstávají hlavními překážkami. Data o zaměstnanosti jsou podobně komplikovaná: některé společnosti s velkým zaváděním umělé inteligence rozšiřují nábor, zatímco jiné výzkumy poukazují na tlak na mladší pracovníky v pozicích vystavených umělé inteligenci. Celkový dopad silně závisí na odvětví, pracovním postupu a způsobu implementace umělé inteligence.