En lättviktig sond läser aktiveringar i varje tur och eskalerar bara det som ser fel ut, vilket sänker domarkostnaden från 3 166 till 65 dollar per miljon turer.
Företag
Goodfire
Goodfire är en organisation som arbetar med artificiell intelligens med huvudkontor i San Francisco, California, United States. På den här sidan samlas alla artiklar från Aivio News om Goodfire, tillsammans med företagets modeller och registrerade benchmarkresultat.
- Huvudkontor
- San Francisco, California, United States
- Officiell webbplats
- goodfire.ai
Mer om Goodfire
Tre företag som lagrar och kör öppna modeller ska försöka skriva en säkerhetsstandard för dem
Målet är abliteration, konsten att kirurgiskt avlägsna en modells avslag. De tre menar att säkerhet måste byggas in i hur öppna modeller tränas och körs, inte skruvas på efteråt.