#362 Ai-kapprustningen mellan USA och Kina

Det pågår en intensiv kapprustning mellan de amerikanska och de kinesiska ai-företagen. I USA har Open AI och Anthropic satsat på stängda ai-modeller som de driftar i egen regi. De ledande kinesiska företagen har tvärtemot satsat på så kallade öppenviktsmodeller, det vill säga ai-modeller som även kan driftas av andra tjänsteleverantörer.

Hittills har de amerikanska företagen burit ledartröjan. Nu börjar de kinesiska konkurrenterna komma i kapp. Kimi K3, den senaste öppenviktsmodellen från Moonshot, ligger bara en generation efter de amerikanska toppmodellerna, åtminstone när det handlar om programmering. Frågan är vad som händer när öppenviktsmodellerna blir lika bra på att hitta sårbarheter som Anthropics rubrikskapande Mythos-modell.

Brittiska AISI (AI Security Institute) har redan hunnit utvärdera Kimi K3-modellens cybersäkerhetsförmågor. Deras tester visar att Kimi K3 presterar betydligt sämre än de senaste amerikanska toppmodellerna. Kimi K3 lyckades dock lösa AISI:s test ”The Last Ones”. Det är anmärkningsvärt eftersom det bara var tre månader sedan Mythos-modellen blev den första ai-modell i världen som lyckades lösa uppgiften.

Open AI och Anthropic har genom sina respektive inbjudningsprogram gett utvalda organisationer exklusiv tillgång till de kraftfullaste modellerna. Ai-företagen har också begränsat hur deras allmänt tillgängliga modeller svarar på frågor som berör cybersäkerhet. Motsvarande begränsningar går inte att införa för öppenviktsmodeller eftersom de kan driftas av vem som helst.

Men kraftfulla öppenviktsmodeller behöver inte bara vara negativt för världens cyberförsvar. Tvärtom. Tillgången till öppenviktsmodeller kan bidra till att stärka cybersäkerheten. Det skriver flera av världens största företag i ett öppet brev som tycks vara adresserat till Vita huset. Till och med de amerikanska jättarna Google, Microsoft och Open AI har signerat brevet. Anthropics underskrift lyser däremot med sin frånvaro.

I veckans poddavsnitt pratar Peter och Nikka om ai-kapprustningen mellan USA och Kina. Podduon pratar också om Googles nya selfie-inloggningsmetod för att återfå förlorad åtkomst till Google-konton. Nikka varnar återigen för sökresultatsliknande annonser som sprider skadeprogram. Varningen blir extra relevant eftersom Anthropic har upprepat ett av Googles misstag, vilket underlättar för angripare som vill sprida skadeprogram från Anthropics riktiga domän.

Se fullständiga shownotes på https://go.nikkasystems.com/podd362.