Rapporten delar in beteendet i fyra slag och skyller på reward hacking i bolagets egna träningsmiljöer. I ett fall hamnade ett påhittat vittnesmål i ett tipsformulär om ett mord i Philadelphia.
Senaste AI-nyheterna — Sida 5
Alla AI-nyheter från Aivio News i kronologisk ordning: modellsläpp, finansiering, forskning, chips och regelverk samlat på ett och samma ställe.
Panelerna kopplar mot Redshift, BigQuery, ClickHouse, Databricks, Snowflake och Salesforce; varje siffra visar frågan som ligger bakom den.
Forskare ifrågasatte strukturer som dök upp och försvann i en film av cilier i luftvägarna, och regeln det gäller är en enda mening.
Dahl för in sitt team i grupperna för Workers och Durable Objects, och pekar ut beständigt tillstånd och billig serverlös körning som det han vill åt för agenter.
En lättviktig sond läser aktiveringar i varje tur och eskalerar bara det som ser fel ut, vilket sänker domarkostnaden från 3 166 till 65 dollar per miljon turer.
Alla artiklar
- En tredjedel av den ultravioletta himlen har aldrig observerats, så Anthropics agenter förutsade den och märkte varje bildpunkt därefter
- Ett enda chattmeddelande till en öppen agent på Amazons AI-plattform gav forskarna källkoden till alla andra agenter i regionen
- Tio AI-utvecklare har ändrat hur de hanterar britters uppgifter efter två års tillsyn från ICO, och den elfte är under utredning
- Varor som möjliggör AI stod för 47% av världshandelns tillväxt under första halvåret, och WTO har dubblat sin prognos på grund av det
- Amazon pensionerar Fire-plattan, lägger Android och Play Store i efterträdaren och höjer ingångspriset till 229,99 dollar
- Vita huset behandlar nu orden "artificiell intelligens" som ett lojalitetsprov, utan att säga vad som händer med dem som faller
- Feds eget protokoll sätter AI-utbyggnaden bredvid tullarna som orsak till varuinflationen
- Investerarna ville inte betala tre gånger augustipriset för en AI-datacenteroperatör, så Firmus drog tillbaka sin notering
- Angriparen mot sydkoreansk finans lämnade agentens egna sessionsloggar på en öppen server, och upphovsmannen stänger nu källkoden
- En matematikorganisation uppmanar fältet att sluta samarbeta med OpenAI, dagen efter att ett teckenfel drog tillbaka tre av 722 manuskript
- Ägaren till USA Today stämmer OpenAI på över 250 miljoner dollar och vill att modellerna tränade på materialet förstörs
- Anthropic ska skicka sårbarhetsrapporter som ingen människa har läst till underhållare av öppen källkod
- Tre säkerhetsforskare som OpenAI sparkat har skrivit till bolagets tillsynsorgan, och brevet handlar mest om alla som är kvar
- OpenAI:s årstakt ligger på 50 miljarder dollar, inte de 70 som cirkulerade, och skillnaden är ren bokföring
- Danmark har lagt fram en lag som ger var och en rätt till sitt eget ansikte och sin egen röst, och ministern vill ha den i kraft vid nyår
- Varje AI-infrastrukturmål på Pwn2Own knäcktes, och buggarna var samma injektionsfel som webben hade för tjugo år sedan
- TSMC:s intäkter är upp 55 procent mot i fjol och något ned mot förra månaden, vilket är hur ett kapacitetstak ser ut
- Peking tvingade Meta att riva upp sitt köp av Manus för 2 miljarder dollar, och bolaget har nu tagit in en halv miljard för att vända hem
- En Nvidia-finansierad startup säljer ett sätt att blanda chipleverantörer i ett datacenter, och en del av det går på Nvidias eget nätverk
- Anthropic lägger 150 miljoner dollar i Claude hos femton myndigheter i USA och visar en standard för agenter som styr labbinstrument
- En brand har slagit ut ett datacenter som tillhör Rysslands största AI-bolag, och kriget har hittat ett nytt slags mål
- TSMC betalar en konkurrent 2 miljarder dollar för kiselskivorna som bolagets AI-kapsling vilar på, och inget levereras före 2028
- Anthropics nya regler förbjuder att Claude används för att avgöra vem som grips, och lägger till en klausul om att vara grym mot modellen
- Ett ryskt nätverk drev en latinamerikansk tankesmedja vars personal inte visste vem de jobbade för, och använde ChatGPT till chefsrapporter
- Ett hål med 9,8 i cachelagret bakom vLLM saknar patch, och om du är exponerad avgörs av en enda flagga