OpenAI bildar…

OpenAI bildar säkerhetsråd när det tränar den senaste artificiella intelligensmodellen | Artificiell intelligens (AI)

OpenAI säger att de håller på att inrätta en säkerhets- och säkerhetskommitté och har börjat träna en ny AI-modell för att ersätta GPT-4-systemet som underbygger dess ChatGPT chatbot.

Startupen i San Francisco sa i ett blogginlägg på tisdagen att kommittén kommer att ge råd till hela styrelsen om “kritiska säkerhets- och säkerhetsbeslut” för dess projekt och verksamhet.

Säkerhetskommittén anländer när debatten virvlar runt AI-säkerhet på företaget, som ställdes i rampljuset efter att en forskare, Jan Leike, avgått och riktat kritik mot OpenAI för att låta säkerheten “ta en baksätet till glänsande produkter”. OpenAI-grundaren och chefsforskaren Ilya Sutskever avgick också, och företaget upplöste “superalignment”-teamet fokuserat på AI-risker som de tillsammans ledde.

OpenAI sa att de “nyligen hade börjat träna sin nästa frontier-modell” och dess AI-modeller ledde branschen på kapacitet och säkerhet, även om det inte nämnde kontroversen. “Vi välkomnar en robust debatt i detta viktiga ögonblick,” sa företaget.

AI-modeller är förutsägelsesystem som tränas på stora datamängder för att generera on-demand text, bilder, video och mänskliga konversationer. Frontier-modeller är de mest kraftfulla, banbrytande AI-systemen.

Säkerhetskommittén är fylld med företagsinsiders, inklusive Sam Altman, OpenAI:s VD, och dess ordförande, Bret Taylor, och fyra OpenAI tekniska och policyexperter. Det inkluderar också styrelseledamöterna Adam D’Angelo, som är VD för Quora, och Nicole Seligman, en tidigare chefsjurist från Sony.

Kommitténs första uppgift blir att utvärdera och vidareutveckla OpenAI:s processer och skyddsåtgärder och ge sina rekommendationer till styrelsen om 90 dagar. Företaget sa att det sedan kommer att offentliggöra rekommendationerna som det antar “på ett sätt som är förenligt med säkerhet och säkerhet”.


Source link

chatgpt-svenska

Hos ChatGPT Svenska hittar du all information om Ai verktyget ChatGPT samt hur du använder denna teknologi för daytrading på valutamarknaden.

Nyttiga Länkar