Klassificering genom diffraktion
Forskare vid UCLA har byggt en hybrid optisk-neural processor som upptäcker manipulerad video genom att låta bildrutor passera genom konstruerade diffraktiva lager i stället för att köra dem genom ett grafikkort. Arbetet, av Parnian Ghapandar Kashani, Shiqi Chen och Aydogan Ozcan vid UCLA:s institutioner för elektro- och datateknik och bioteknik samt California NanoSystems Institute, publicerades i tidskriften eLight.
Mekanismen är den intressanta delen. Ljuset som bär bildrutorna passerar genom en uppsättning lager vars ytstruktur optimerats så att själva diffraktionen utför det mesta av beräkningen. Optiken gör det tunga arbetet; ett litet elektroniskt steg läser av resultatet. Beräkningen sker i ljusets hastighet genom några millimeter material, och energikostnaden är vad det kostar att lysa på den.
De rapporterade siffrorna
Teamet rapporterar en genomsnittlig träffsäkerhet på 97,79 procent, med en känslighet på 99,86 procent och en specificitet på 95,72 procent, medan minst 15 videoströmmar granskas i ett enda optiskt pass. Pressad till 18 strömmar i ett pass höll sig den genomsnittliga träffsäkerheten på 96,13 procent.
Asymmetrin mellan de två siffrorna är avsiktlig och utgör designargumentet. En känslighet på 99,86 procent innebär en genomsnittlig andel falska negativa nära 0,14 procent: manipulerad video släpps mycket sällan igenom. En specificitet på 95,72 procent innebär att ungefär en av tjugo äkta videor flaggas ändå.
För ett granskningssteg är det rätt ordning. Ett filter som släpper igenom nästan inga förfalskningar och överflaggar en del äkta material lämnar en hanterbar hög till en långsammare och mer träffsäker digital detektor bakom. Ett filter inställt tvärtom vore sämre än värdelöst.
Vad forskarna hävdar, och vad de inte gör
Författarna beskriver chipet som “ett mycket känsligt första steg i ett större detektionssystem” för innehållsmoderering och mediaautentisering, inte som ersättning för digitala detektorer. Den inramningen spelar roll, eftersom historien om deepfake-detektering är en historia om resultat som höll tills generatorerna tränades om mot dem.
Inget publicerat säger hur processorn presterar mot genereringsmetoder som inte fanns när dess diffraktiva lager optimerades, och ett fysiskt optiskt element går inte att lappa på det sätt en modell kan finjusteras. Lagren tillverkas. Att justera om dem innebär att tillverka igen.
Vad den däremot ändrar är var kostnaden ligger. Moderering i plattformsskala innebär i dag att varje uppladdad video körs genom en modell på ett grafikkort; femton strömmar i ett optiskt pass är en annan styckekalkyl, och det är ett starkare argument än träffsäkerhetssiffran.
Vad man ska följa är en oberoende replikering mot dagens generatorer. Detektionsresultat är färskvara på ett sätt som procentsatser för träffsäkerhet inte förmedlar.
