OpenAI skal hente inn eksterne sikkerhetsforskere i sin neste interne sikkerhetsrunde. Målet er å bruke selskapets egne modeller til å finne svakheter i forsvarssystemene før angripere rekker å utnytte dem.

Samarbeidet skjer med Cathedral Systems. Forskerne der skal arbeide sammen med OpenAIs egne sikkerhetsteam for å utfordre selskapets beskyttelse, identifisere sårbarheter og teste om feilrettinger fungerer som de skal.

Skal bygge videre på tidligere sikkerhetsrunde

Den planlagte gjennomgangen bygger videre på en tidligere sikkerhetsrunde der 25 prosent av OpenAIs produktutviklere deltok. Under dette arbeidet brukte ingeniørene Codex til å undersøke funn, gjenskape sårbarheter i isolerte miljøer og forberede oppdateringer til vurdering.

OpenAI har ikke opplyst når den nye sikkerhetsrunden starter. Selskapet beskriver likevel tiltaket som del av en bredere satsing på kontinuerlig bruk av kunstig intelligens for å oppdage og rette svakheter før de kan utnyttes.

Den nye runden skal samle eksterne forskere og sikkerhetspartnere med OpenAIs interne team. Selskapet sier at målet er å utfordre egne antakelser og styrke både systemene og metodene som brukes for å beskytte dem.

Øker belønningen for kritiske funn

Parallelt øker OpenAI belønningen i selskapets Security Bug Bounty-program. Eksepsjonelle funn kan gi opptil 172 000 dollar, inkludert bonuser. OpenAI opplyser at maksimalbeløpet gjelder særlig betydningsfulle funn.

Selskapet skal ha mer enn firedoblet belønningen for kritiske sårbarheter. Ordningen skal gi sikkerhetsforskere et større insentiv til å undersøke OpenAIs systemer og rapportere svakheter.

Gavin Kliger, administrerende direktør og medgründer i Cathedral, sier samarbeidet også skal omfatte testing av feilrettinger.

«OpenAI setter et viktig eksempel ved å samarbeide med eksterne sikkerhetsselskaper og bruke egne modeller til å teste og styrke forsvaret kontinuerlig. Alle selskaper bør tenke gjennom hvordan de kan ta disse mulighetene i bruk», sa Kliger.

Han la til at Cathedral ser frem til å kombinere OpenAIs modeller og sikkerhetsekspertise med selskapets egen forskning for å finne svakheter, teste feilrettinger og styrke arbeidet med kontinuerlig forsvar.

Ingen konkrete sårbarheter er offentliggjort

Kunngjøringen beskriver et planlagt samarbeid, ikke ferdig gjennomførte funn. OpenAI har ikke identifisert konkrete sårbarheter som er oppdaget gjennom det nye partnerskapet, og heller ikke spesifisert hvilke systemer forskerne skal undersøke.

OpenAI mener tradisjonelle cyberforsvar alene ikke lenger er tilstrekkelige, og viser til nyere hendelser i bransjen som tegn på hvor raskt trusler kan oppstå. Selskapets uttalte mål er å etablere kontinuerlige forsvarsløkker som finner og retter svakheter før angripere gjør det.

Utover arbeidet med egne systemer gjør OpenAI også sine mest avanserte modeller tilgjengelige for Daybreak-kunder. Selskapet har satt av 1 milliard dollar til subsidiert tilgang over seks måneder for aktører som beskytter kritiske tjenester og digital infrastruktur.

OpenAI vil i tillegg dele arkitekturen og erfaringene fra den forrige sikkerhetsrunden, sammen med en plan for hvordan cyberforsvarere i næringslivet og offentlig sektor kan få bedre tilgang til slike verktøy. Selskapet sier det vil fortsette å videreutvikle modellene, bruke dem i sitt eget forsvarsarbeid og utvide tilgangen for betrodde sikkerhetsaktører.