Forskerkollektivet EleutherAI har trænet verdens største, åbne GPT-model: Skaden er allerede sket

Forskerkollektivet EleutherAI har trænet verdens største, åbne GPT-model: Skaden er allerede sket
Illustration: EleutherAI. Se større version
De består af omkring 30 personer, der hænger ud i en Discord-kanal og taler om AI-forskning, men sammen har de trænet den største, åbne GPT-model i verden. Og det er bare starten. 
Interview 16. november kl. 04:52

Græsrods forskerkollektivet EleutherAI har sat sig et mål: At træne en sprogmodel på størrelse med OpenAI’s GPT-3 - og gøre den åben og tilgængelig for alle. 

Indtil videre er de kommet et stykke af vejen. I sommer frigav Eleuther modellen GPT-J, der med 6 milliarder parametre er den største, åbne GPT-model i verden. Eller for at være mere præcis - den største, åbne autoregressive sprogmodel i verden. 

Ser man på, hvem der ellers udvikler sprogmodeller i den størrelsesorden, kigger man på navne som Google, Nvidia og Facebook. I den forstand er Eleuther noget ganske andet. 

»EleutherAI er bogstaveligt talt omkring 30 folk, der hænger ud i en Discord-kanal i deres fritid og taler om forskning,« siger Stella Biderman, der er lead researcher hos EleutherAI og matematiker ved Booz Allen Hamilton. 

Få fuld adgang til DataTech

DataTech skriver til dig, der arbejder professionelt med data og analytics. Vi giver dig inspirerende cases, nyheder og debat om alt fra machine learning-modeller til dataetik.

Abonnementsfordele
vpn_key
Fuld adgang til DataTech
Alt indhold på DataTech er åbent for dig, så du kan nyde det fra din computer, tablet eller mobil.
drafts
Kuraterede nyhedsbreve
Nyheder, interviews, tendenshistorier og meget mere, leveret til din indbakke.
thumb_up
Adgang til debatten
Deltag i debatten med andre professionelle.
Debatten
Du har ikke tilladelse til at deltage i debatten. Kontakt support@ing.dk hvis du mener at dette er en fejl.
Forsiden