Det som är nytt
Cohere släppte North 2 på måndagen, andra versionen av företagets agentplattform för organisationer. Tre saker har förändrats i den här versionen: agenterna behåller sammanhanget mellan sessioner i stället för att börja om varje gång; orkestreringen har byggts om för att driva flerstegsprocesser på egen hand och stanna vid de beslut som är reserverade för människor; och administratörer får finkorniga kontroller över vad agenterna kostar att köra.
Kostnadskontrollerna är det företagsköpare efterfrågat mest. North 2 lägger till kvoter per användare, frekvensgränser och tak för hela organisationen, följer tokenkostnaden per användare, per agent och per avdelning, och varnar innan en gräns slår till.
Minne, färdigheter och ett delat bibliotek
Minnesfunktionen kombineras med ett bibliotek av återanvändbara agentfärdigheter och ett delat arkiv, så att en agent som ett team byggt från en instruktion kan användas i hela företaget. Cohere beskriver North 2 som sin största uppgradering hittills, som förenar säkerhet, intelligens, kostnadsstyrning och kontroll över hela kedjan i en plattform.
På säkerhetssidan söker plattformen efter personuppgifter, upptäcker promptinjektion och tillämpar autonomiregler som begränsar vad en agent får göra. Cohere anger certifieringarna SOC 2 Type 2, ISO 27001 och ISO 42001. Den körs på Coheres egna modeller eller på modeller kunden väljer.
Var den körs, och varför det spelar roll
North 2 driftsätts i molnet, på egen utrustning eller helt frånkopplad från nätet. Det sista alternativet är skälet till att produkten finns: de kunder Cohere har sålt till — finans, sjukvård, telekom, tillverkning, energi och offentlig sektor — kan ofta inte skicka data till en extern tjänst alls.
Paul Teyssier, Coheres produktchef för AI, ledde lanseringen. Jacob Rideout, teknikchef på HiddenLayer, sa till VentureBeat att hans team “slog på de arbetsflödena först när vi kunde se och styra vad agenterna gjorde” — vilket är en rimlig sammanfattning av varför utgiftstak och aktivitetsloggar kommer före nya förmågor.
Cohere har inte publicerat priser; bolaget säger att kostnaden beror på skala och komplexitet. Företaget har ägnat det senaste året åt att rulla ut North i dessa sektorer och säger att driftsättningarna formade den här versionen. Det som är värt att följa är om tokenbudgetar per avdelning blir en standardpost i företagsavtal om agenter, för så snart ekonomiavdelningen ser siffran brukar den vilja sätta ett tak på den. Hittills har agenternas kostnad mest legat osynlig inne i en molnfaktura.
