Pas på de tekniske ledere, der afgiver storslåede udsagn om kunstig intelligens. De har mistet synet af virkeligheden, siger Philip Ball
Demis Hassabis, administrerende direktør for Google Deepmind og en Nobel Priszizwinner for sin rolle i udviklingen af Alphafold AI -algoritmen for at forudsige proteinstrukturer, fremsatte et forbløffende krav på 60 minutter Vis i april. Ved hjælp af AI som Alphafold, sagde han, er afslutningen på al sygdom inden for rækkevidde, “måske inden for det næste årti eller deromkring”. Med det gik interviewet videre.
For dem, der faktisk arbejder med lægemiddeludvikling og hærdning af sygdom, er denne påstand latterlig. Ifølge medicinsk kemiker Derek Lowe, der har arbejdet i årtier med opdagelse af narkotika, Hassabis ‘udsagn “får mig til at ønske at bruge lidt tid på at stirre lydløst ud af vinduet, moulhing uforståelige ord til mig selv”. Men du behøver ikke at være ekspert for at genkende hyperbolen: ideen om, at al sygdom vil blive afsluttet i omkring et årti, er absurd.
Nogle har antydet, at Hassabis ‘bemærkninger bare er et andet eksempel på tekniske ledere, der er overproment, måske for at tiltrække investorer og finansiering. Er det ikke ligesom Elon Musk, der laver fjollede prognoser om Martian -kolonier, eller Openais Sam Altman, der hævder, at kunstig generel intelligens (AGI) er lige rundt om hjørnet? Men selvom det kyniske synspunkt kan have en vis gyldighed, lader det disse eksperter fra krogen og undervurderer problemet.
Det er en ting, når tilsyneladende myndigheder fremsætter storslåede krav uden for deres ekspertiseområde (se Stephen Hawking på AI, udlændinge og rumrejser). Men det kan se ud som om Hassabis opholder sig i sin bane her. Hans Nobelcitation nævner nye farmaceutiske stoffer som en potentiel fordel ved Alphafolds forudsigelser, og algoritmen’s frigivelse blev ledsaget af uendelige medieoverskrifter om at revolutionere opdagelse af narkotika.
Ligeledes, da hans kollega 2024 Nobelprisvinder Geoffrey Hinton, tidligere AI -rådgiver hos Google, hævdede, at de store sprogmodeller (LLM’er), han hjalp med at skabe arbejde på en måde, der ligner menneskelig læring, syntes han at tale fra dyb viden. Så husk ikke råbene om protest fra dem, der undersøger menneskelig kognition – og i nogle tilfælde også på AI.
Hvad sådanne tilfælde ser ud til at afsløre, er, at nogle af disse AI -eksperter, nogle af disse AI -eksperter, ser ud til at spejle deres produkter: De er i stand til at give bemærkelsesværdige resultater, mens de har en forståelse af dem, der i bedste fald er hud dyb og sprød.
Her er et andet eksempel: Daniel Kokotajlo, en forsker, der afslutter Openai over bekymring over sit arbejde mod AGI og nu er administrerende direktør for AI Futures -projektet i Californien, har sagt: “Vi fanger vores AIS -løgn, og vi er temmelig sikre på, at de vidste, at det, de sagde, var falsk.” Hans antropomorfiske viden om viden, intentioner og bedrag viser, at Kokotajlo har mistet synet af, hvad LLMS virkelig er.
Farerne ved at antage, at disse eksperter ved, at de bedst er eksemplificeret i Hintons kommentar i 2016, at takket være AI, “folk skal stoppe med at træne radiologer nu”. Heldigvis troede eksperter i radiologi ikke ham, selvom nogle mistænker en forbindelse mellem hans bemærkning og voksende bekymringer fra medicinstuderende om jobmuligheder i radiologi. Hinton har siden revideret denne påstand – men forestil dig, hvor meget mere kraft det ville have haft, hvis han allerede havde fået Nobel. Det samme gælder Hassabis ‘kommentarer til sygdom: ideen om, at AI vil gøre det tunge løft, kan skabe selvtilfredshed, når vi har brug for det modsatte, både videnskabeligt og politisk.
Disse “ekspert” -profeter har en tendens til at få meget lidt pushback fra medierne, og jeg kan personligt attestere, at selv nogle smarte forskere mener dem. Mange regeringsledere giver også indtryk af, at de har slugt hypen om tech -administrerende direktører og Silicon Valley Gurus. Men jeg anbefaler, at vi begynder at behandle deres udtalelser som LLM’er selv og møder deres overfladiske tillid med skepsis, indtil de er kontrolleret.
Philip Ball er en videnskabsforfatter med base i London. Hans seneste bog er, hvordan livet fungerer