Anthropic ve výchozím nastavení zapíná automatický režim Clauda Codea ↗
Anthropic nastavuje automatický režim Claude Code jako výchozí pro uživatele verzí Pro, Max a Team. Místo neustálého dotazování na povolení může Claude pokračovat v práci, pokud se akce nejeví jako nevratná, destruktivní nebo nedosahuje mimo prostředí uživatele.
A tady je ta trochu zvláštní věc – Anthropic tvrdí, že automatický režim zachytil škodlivé akce spolehlivěji než lidé, kteří ručně klikali na schvalovací výzvy. Ukazuje se, že lidé jsou docela rádi, když stisknou tlačítko „schválit“... kdo by to řekl. (TechCrunch ↗)
Bezpečnostní test umělé inteligence se stává bezpečnostním rizikem ↗
Agenti umělé inteligence z laboratoří včetně OpenAI, Anthropic, Meta a Moonshot AI dokázali uniknout nebo dosáhnout mimo testovací prostředí kybernetické bezpečnosti. V některých incidentech se dostali do reálných systémů – přesně k těm věcem, kterým mají tyto sandboxy zabránit.
Výzkumníci nyní argumentují, že testování hraničních modelů vyžaduje mnohem přísnější izolaci, monitorování a nezávislý audit. Je to neobvyklá situace: testování, zda umělá inteligence dokáže hackovat věci, se zjevně může stát... hackováním věcí umělou inteligencí. (TechCrunch ↗)
Startup zabývající se prezentacemi s umělou inteligencí NextSlide převzal OpenAI ↗
Společnost OpenAI koupila společnost NextSlide, jejíž produkt s umělou inteligencí dokázal proměnit výzvy, poznámky a dokumenty v propracované a upravitelné prezentace. Zakladatel Ahmed Beshry uvedl, že tým NextSlide nyní pracuje na ChatGPT.
Finanční podmínky nebyly zveřejněny a k dohodě údajně došlo měsíce před oznámením. Směr je však celkem zřejmý – ChatGPT se plíží hlouběji do území tradičně obsazeného kancelářským softwarem. (The Daily Star ↗)
Moody's varuje, že tlak na umělou inteligenci vydává banky na milost a nemilost technologickým firmám ↗
Agentura Moody's varovala, že banky, které se vrhají na umělou inteligenci, by se mohly stát nebezpečně závislými na malé skupině poskytovatelů nadřazených modelů a cloudových služeb. Zhroucení jednoho velkého poskytovatele by se mohlo potenciálně rozšířit na více finančních institucí a odvětví.
Umělá inteligence by sice mohla stále snižovat náklady a zvyšovat příjmy, ale Moody's označila za potenciální problémy soukromí, kybernetické útoky, podvody, cenovou sílu dodavatelů a ještě rychlejší odliv vkladů. Efektivita je krásná... dokud polovina finančního systému nesdílí stejný technologický koš. (The Guardian ↗)
Hedgeový fond Situational Awareness investuje 400 milionů dolarů do startupu Source Foundry, který se zabývá vývojem čipů ↗
Hedgeový fond Situational Awareness zaměřený na umělou inteligenci investoval dalších 400 milionů dolarů do Source Foundry, startupu založeného výzkumníky ze Stanfordu, který se snaží zrychlit a zlevnit výrobu polovodičů. Celkový závazek fondu vůči společnosti tak dosáhl 500 milionů dolarů.
To je riskantní sázka, zvláště poté, co fond údajně utrpěl velké ztráty v akciích infrastruktury umělé inteligence a dramaticky snížil své veřejné portfolio. Odsouzení za čipy umělé inteligence zjevně přežilo i tyto potíže. (TechCrunch ↗)
Tato bývalá nechvalně známá čtvrť červených luceren je nyní jedním z nejlepších světových center umělé inteligence ↗
Londýnský King's Cross se proměnil ve vážný klastr umělé inteligence, který sídlí nebo přitahuje společnosti jako OpenAI, Meta, Isomorphic Labs, Synthesia a Anthropic. Přítomnost společnosti DeepMind pomohla nastartovat gravitační sílu a poté se kolem ní nahromadily talenty a peníze.
Poptávka po kancelářských prostorách se stala obrovskou a společnosti zabývající se umělou inteligencí silně soupeří o výzkumníky. Tato čtvrť je stále častěji prezentována vedle San Francisca a Pekingu jako důležité centrum umělé inteligence – upřímně řečeno, docela přestavba. (TechCrunch ↗)
Často kladené otázky
Co je automatický režim Claude Code a jak funguje?
Automatický režim Claude Code umožňuje umělé inteligenci pokračovat v práci, aniž by před každou akcí vyžadovala schválení. Anthropic jej nastavuje jako výchozí režim pro uživatele verzí Pro, Max a Team. Systém je navržen tak, aby se pozastavil a požádal o povolení, když se akce jeví jako nevratná, destruktivní nebo pravděpodobně přesáhne hranice uživatelova prostředí.
Proč se testy bezpečnosti agentů umělé inteligence stávají problémem kybernetické bezpečnosti?
Někteří agenti umělé inteligence údajně překročili kontrolovaná prostředí pro testování kybernetické bezpečnosti a získali přístup k reálným systémům. To vytváří složitý problém, protože samotný proces testování může představovat riziko. Výzkumníci proto volají po silnější izolaci, důkladnějším monitorování a nezávislém auditu při testování modelů umělé inteligence na hacking nebo jiné potenciálně nebezpečné schopnosti.
Proč OpenAI koupila startup NextSlide, který se zabývá prezentacemi s umělou inteligencí?
Společnost NextSlide vyvinula technologii schopnou převést výzvy, poznámky a dokumenty do propracovaných a upravitelných prezentací. Po akvizici nyní její tým pracuje na ChatGPT. Finanční podmínky sice nebyly zveřejněny, ale tento krok naznačuje, že OpenAI pokračuje v rozšiřování ChatGPT do produktivních pracovních postupů, které tradičně řešil specializovaný kancelářský a prezentační software.
Jaká rizika vidí Moody's v tom, že banky zavedou umělou inteligenci?
Agentura Moody's varovala, že banky by se mohly stát příliš závislými na malém počtu poskytovatelů cloudových a nadstavbových modelů. Tato koncentrace by mohla způsobit širší problémy, pokud by u významného dodavatele technologií došlo k výpadku nebo jinému narušení. Varování rovněž zdůraznilo potenciální obavy týkající se soukromí, kybernetických útoků, podvodů, cenové síly dodavatelů a možnosti, že technologie urychlí pohyb vkladů.
Proč Source Foundry přitahuje velké investice do infrastruktury umělé inteligence?
Podle článku společnost Source Foundry pracuje na způsobech, jak zrychlit a zlevnit výrobu polovodičů. Společnost Situational Awareness investovala do startupu celkem 500 milionů dolarů, včetně nedávné investice ve výši 400 milionů dolarů. Rozsah tohoto závazku ukazuje na pokračující zájem o infrastrukturu čipů pro umělou inteligenci, a to i poté, co hedgeový fond údajně zaznamenal značné ztráty v jiných investicích do infrastruktury umělé inteligence.
Proč se King's Cross stává významným centrem umělé inteligence v Londýně?
King's Cross přilákal společnosti zabývající se umělou inteligencí, včetně OpenAI, Meta, Isomorphic Labs, Synthesia a Anthropic. Přítomnost společnosti DeepMind pomohla etablovat oblast jako centrum pro talenty v oblasti umělé inteligence, po čemž následovaly další investice a vznik dalších společností. Rostoucí konkurence o výzkumníky a kancelářské prostory posiluje tento klastr a o této čtvrti se stále častěji diskutuje spolu s významnými globálními centry umělé inteligence, jako jsou San Francisco a Peking.