En undersøgelse af arbejdstagere, der brugte generativ AI til at udføre opgaver, fandt, at de brugte kritisk tænkning mindre, da de stolede på AI til at udføre opgaven nøjagtigt
Mister vi kritiske tænkningsevner til kunstig intelligens?
Generative AI -værktøjer kan begrænse brugernes kritiske tænkning, når de udfører opgaver. Mennesker, der bruger generativ AI, tænker også mindre kritisk, når de har tillid til AI til at udføre en opgave, såsom at udvikle et argument for et papir eller præsentation. Forskerne bag resultaterne siger, at løsningen er at tilpasse teknologien snarere end at begrænse dens anvendelse.
Lev Tankelevitch hos Microsoft Research og hans kolleger bad 319 personer om at deltage i en undersøgelse. Deltagerne, der blev rekrutteret gennem den produktive crowddsourcing -platform, blev bedt om at dele tre eksempler på, hvordan de brugte generative AI -værktøjer som Chatgpt i deres arbejde. De blev derefter spurgt, om de havde engageret sig i kritisk tænkning, mens de udførte hver opgave.
Hvis de svarede ja, blev de bedt om at give et eksempel på, hvordan de gjorde det, hvis resultater blev analyseret. Respondenterne blev også bedt om at bedømme, hvor stor indsats aktiviteten krævede sammenlignet med at gøre det uden AI, på en fem-punkts skala og deres tillid til det resulterende arbejde.
For omkring fire ud af 10 opgaver rapporterede deltagerne overhovedet ingen kritisk tænkning. Forskerne antyder, at mens brug af AI kunne hjælpe med at forbedre den hastighed, hvorpå folk lærer, den lethed, hvorpå generative AI -værktøjer skaber og præsenterer indholdet, betyder, at de måske ikke lærer så dybt. ”Når man studerer menneskelig adfærd, kan tilsyneladende modstridende ideer begge være rigtige,” sagde Tankelevitch i et skriftligt svar på spørgsmål.
”Dette ligger til grund for en dyb og langsigtet mistanke med kognitive teknologier,” siger Richard Whittle ved University of Salford i Storbritannien. ”At deres anvendelse vil mindske menneskelige færdigheder, uanset om det er en lommeregner, der reducerer vores evne til at gøre enkle mentale beregninger eller Google Maps, der fjerner behovet for at navigere.”
Selv når AI forbedres, rejser dette vigtige bekymringer. Hvis brugere har mindre og mindre kritiske tænkningsevner, er de muligvis ikke i stand til at identificere, om AI er korrekt, eller ved, hvordan de skal gå videre uden AI, når de genkender, at det er forkert. Men der kan være kontroller og balancer på plads, siger forfatterne af undersøgelsen. ”Vores undersøgelsesbaserede undersøgelse antyder, at når folk betragter en opgave som lavindsats, kan de muligvis ikke gennemgå output som kritisk,” sagde Tankelevitch. ”Når indsatsen er højere, deltager folk imidlertid naturligt i mere kritisk evaluering.”
Tankelevitch forsvarede forskningen, og dens henstillinger: ”Al den forskning, der er i gang for at forstå AI’s indflydelse på kognition, er vigtig for at hjælpe os med at designe værktøjer, der fremmer kritisk tænkning. Dybe ræsonnementsmodeller støtter allerede dette ved at gøre AI’s processer mere gennemsigtige – hvilket gør det lettere for brugerne at gennemgå, stille spørgsmål og lære af den indsigt, de genererer. ”
Andre er ikke så overbeviste. ”Skrivning handler om at udvikle kritisk tænkning, og vi bør ikke delegere det til nogen eller noget, så meget mindre maskiner, der er designet af tech -virksomheder med klare økonomiske interesser,” siger Carissa Véliz ved University of Oxford. Hun siger, at dette kunne have større samfundsmæssige konsekvenser. ”Demokrati er en slags samtale. Hvis vi eksternaliserer dialog til maskiner, mister vi vores plads i dialogen. ”