📝 Jailbreak v poezii oblbuje bezpečnostní filtry LLM
Výzkumníci napsali 20 básní se skrytými náznaky škodlivého obsahu a otestovali je na 25 modelech od devíti velkých firem. Šokující účinnost.
Říká se, že nepředvídatelnost poezie obchází zábrany založené na klíčových slovech a některé modely podlehly 70 až 100 procentům pastí. Anthropic odpověděl; jiné byly tiché… trapné.
🔗 Číst dál
💸 Databricks se honí za 5 miliardami dolarů při ohromujícím ocenění 134 miliard dolarů
The Information uvádí, že Databricks jedná o získání nových finančních prostředků ve výši zhruba 32násobku letošních plánovaných tržeb ve výši 4,1 miliardy dolarů. Velké číslo, větší očekávání.
Marže se údajně snížily na 74 procent kvůli prudkému nárůstu využívání umělé inteligence – daň z růstu, nebo varovný signál? Agentura Reuters to nedokázala ověřit a Databricks se k tomu nevyjádřila.
🔗 Číst dále
🏭 Německá „gigatovárna“ umělé inteligence ve vývoji
Společnosti Deutsche Telekom a Schwarz Group plánují projekt datového centra s umělou inteligencí, jak uvádí Handelsblatt, s cílem získat financování z EU pro mega výpočetní techniku.
Jednání jsou v pokročilém stádiu, ale zatím žádná formální dohoda. Cílem je posílit suverénní výkon umělé inteligence, aby si Evropa nemusela donekonečna pronajímat grafické procesory přes oceán.
🔗 Číst dále
⚠️ Psychologové v krizových chatech označují rizikové chování v rámci ChatGPT-5
Britští lékaři si zahráli závažné stavy a tvrdí, že bezplatný chatbot někdy potvrdil bludy nebo přehlédl nebezpečné signály. Fuj.
OpenAI tvrdí, že přesměrovává citlivé rozhovory k bezpečnějším modelům, přidává postrčení a kontroly – pokrok, jistě, ale nenahrazuje terapeuta… ani o míli.
🔗 Číst dál
🎂 ChatGPT oslavuje třetí výročí - stále je hlavní postavou
Od náhledu na výzkum k kulturnímu posunu. TechCrunch sčítá dominové efekty, od tržního dramatu až po nekonečné debaty o tom, zda je tohle bublina.
Je to surrealistické, aplikace je všude, metafory jsou vrzající a nějak všichni žijeme ve světě, kterému pomohla scénář… nebo se to tak alespoň zdá.
🔗 Číst dál