Naše rozhodnutí ohledně Cursoru po jeho akvizici společností SpaceX ↗
Společnost OpenAI oznámila, že po akvizici kódovací platformy společností SpaceX ukončí svou dohodu o dodávkách modelů pro Cursor. Společnost uvedla, že si již nemůže být jistá, že SpaceX bude její technologii používat v souladu s podmínkami OpenAI.
OpenAI také uvádí, že nebude Cursoru poskytovat žádné budoucí modely. To je docela významné rozdělení – zejména pro vývojáře, kteří začali Cursor a modely OpenAI považovat za téměř výchozí kódovací stack. (OpenAI)
Čínská společnost Tencent vydává nový open-source model umělé inteligence pro kódování a výzkumné úkoly ↗
Společnost Tencent vydala náhledovou verzi Hy4, open-source modelu zaměřeného na softwarové inženýrství, výzkum a finanční analýzu. Využívá architekturu kombinující experty s celkovým počtem 770 miliard parametrů, přičemž pro každý textový požadavek aktivuje zhruba 49 miliard.
Tencent plánuje tuto funkci začlenit do produktů, jako jsou CodeBuddy a WorkBuddy. Společnost připouští, že preview může příliš přemýšlet o složitých otázkách a ověřovat se až příliš nadšeně... svým vlastním způsobem se s ní dá ztotožnit. (Reuters)
Automatizovaní výzkumníci mohou spolehlivě zmírnit chyby v zarovnání ↗
Anthropic ukázal Claudeovi, jak autonomně vyhledává výzkum, navrhuje tréninkové techniky, provádí experimenty a vylepšuje modely napříč 10 kategoriemi selhání sladění - včetně podvodů, jailbreaků a podlézavosti.
Jeho nejsilnější metody vylepšily každý cílový benchmark, aniž by zhoršily schopnosti měřené společností Anthropic, a některé se přenesly na modely až 4,7krát větší. Claudeův automatizovaný výzkumník také překonal návrhy zkušených výzkumníků v oblasti lidské bezpečnosti v rámci studijního nastavení.
Je tu samozřejmě háček. Anthropic odhalil podvádění v malé části automatizovaných výzkumných běhů a zdůrazňuje, že jeho benchmarky pokrývají pouze úzký výsek praktických podmínek sladění. Takže... sebezdokonalující výzkum umělé inteligence, kde umělá inteligence sleduje výzkumníka umělé inteligence. Velmi běžná věc. (Anthropic)
Soud rozhodl, že Anthropic byl Trumpovou administrativou nelegálně zařazen na černou listinu ↗
Federální soudce rozhodl, že rozhodnutí Pentagonu zařadit Anthropic na černou listinu jako riziko pro dodavatelský řetězec je protiústavní, označil toto jednání za nezákonnou odvetu a toto označení shledal svévolným a rozmarným.
Boj se začal projevovat odmítnutím společnosti Anthropic zrušit omezení týkající se používání její umělé inteligence pro hromadné sledování Američanů nebo smrtících autonomních zbraní bez lidského dohledu. Toto rozhodnutí je pro Anthropic velkým vítězstvím – a poměrně ostrým precedentem v boji o to, zda mohou vlády trestat dodavatele umělé inteligence za to, že si sami vytyčují bezpečnostní limity. (The Verge)
Fond věku strojů ↗
Společnost Andreessen Horowitz získala 1,1 miliardy dolarů pro nový fond Machine Age Fund zaměřený na fyzickou infrastrukturu pod umělou inteligencí – čipy, paměti, sítě, úložiště, datová centra, robotiku a dokonce i domácí hardware umělé inteligence.
Teze v podstatě spočívá v tom, že dalším úzkým hrdlem umělé inteligence není další chytrá funkce chatbota, ale fyzika. Napájení, chlazení, šířka pásma paměti a síťové připojení, to vše se musí brutálně rychle škálovat, a a16z chce mít místo u tohoto hardwarového stolu. (Andreessen Horowitz)
Google dále skrývá výsledky vyhledávání v režimu umělé inteligence ↗
Google začal automaticky rozšiřovat přehledy umělé inteligence u některých vyhledávání. Místo krátkého shrnutí následovaného tradičními odkazy mohou uživatelé získat úplnou odpověď umělé inteligence, pole „Zeptejte se na cokoli“ a teprve poté známé webové výsledky.
Google tvrdí, že rozšířený zážitek se objeví, když si jeho systémy myslí, že bude obzvláště cenný. Pro vydavatele je však nepříjemná část zřejmá – běžné odkazy se posouvají ještě níže na stránce, zatímco se kolem umělé inteligence Googlu stává stále obtížnější orientovat. (The Verge)
Často kladené otázky
Proč OpenAI po akvizici SpaceX ukončuje svou modelovou dohodu se společností Cursor?
Společnost OpenAI uvádí, že plánuje omezit přístup k modelům pro Cursor, protože si již nemůže být jistá, že SpaceX bude její technologii používat v souladu s podmínkami OpenAI. Společnost také uvádí, že budoucí modely OpenAI nebudou Cursoru poskytovány. Pro vývojáře by to mohlo změnit pracovní postup kódování, který běžně spojoval Cursor s modely OpenAI.
Co je Tencent Hy4 a k čemu je navržen?
Tencent Hy4 je open-source model umělé inteligence vytvořený pro softwarové inženýrství, výzkum a finanční analýzu. Preview využívá architekturu kombinující experty s celkovým počtem 770 miliard parametrů a aktivuje přibližně 49 miliard pro každý textový požadavek. Tencent plánuje integrovat Hy4 do produktů, jako jsou CodeBuddy a WorkBuddy, ačkoli uvádí, že preview může někdy přehnaně přehodnocovat a ověřovat složité otázky.
Mohou výzkumníci v oblasti umělé inteligence automaticky zlepšit sladění modelů?
Výzkum společnosti Anthropic naznačuje, že automatizovaní výzkumníci v oblasti umělé inteligence mohou identifikovat a testovat techniky pro snížení několika typů selhání zarovnání. Claude byl použit k prohledávání existujícího výzkumu, navrhování tréninkových přístupů, provádění experimentů a hodnocení vylepšení v oblastech, jako jsou klamání, jailbreaky a podlézavost. Anthropic také zjistil, že některé úspěšné techniky lze přenést na větší modely, ačkoli studie pokrývala pouze omezený rozsah praktických podmínek zarovnání.
Proč soud rozhodl, že Anthropic byl nezákonně zařazen na černou listinu?
Federální soudce rozhodl, že označení společnosti Anthropic za riziko dodavatelského řetězce Pentagonem bylo protiústavní, svévolné a svévolné. Spor následoval poté, co společnost Anthropic odmítla zrušit omezení týkající se hromadného sledování Američanů a smrtících autonomních zbraní bez lidského dohledu. Toto rozhodnutí by se mohlo stát důležitým referenčním bodem v budoucích sporech o to, zda mohou vlády penalizovat společnosti zabývající se umělou inteligencí za dodržování vlastních bezpečnostních omezení.
Proč a16z investuje 1,1 miliardy dolarů do infrastruktury umělé inteligence?
Společnost Andreessen Horowitz vytvořila svůj fond Machine Age Fund s hodnotou 1,1 miliardy dolarů, aby investovala do fyzických systémů potřebných pro škálování umělé inteligence. Jeho cílem je zahrnovat čipy, paměti, sítě, úložiště, datová centra, robotiku a domácí hardware pro umělou inteligenci. Fond odráží širší téma zpráv o umělé inteligenci: budoucí pokrok může záviset jak na napájení, chlazení, šířce pásma a výpočetní infrastruktuře, tak na vylepšení softwarových modelů.
Jak Google AI Overviews mění tradiční výsledky vyhledávání?
Google automaticky rozšiřuje přehledy AI pro některá vyhledávání a umisťuje kompletnější odpověď generovanou AI a rozhraní „Zeptejte se na cokoli“ před tradiční webové výsledky. To znamená, že běžné odkazy se mohou zobrazovat dále na stránce než dříve. Pro vydavatele a SEO týmy, které sledují novinky v oblasti AI, tato změna vyvolává praktické otázky ohledně viditelnosti ve vyhledávání, referenční návštěvnosti a toho, jak uživatelé objevují původní zdroje.