Ulf Danielsson:”Förmänskliga inte tekniken”
"För att få den där djupare insikten som gör att man kommer vidare behöver man ibland själv gå igenom beräkningar och resonemang", säger Ulf Danielsson. Foto: Mikael Wallerstedt
I debatten om AI förmänskligas ofta tekniken. Vi ser AI som överlägsen den mänskliga hjärnan, vilket antingen är vår räddning eller ett hot om undergång. Men det finns stora skillnader mellan mänsklig och artificiell intelligens, konstaterar Ulf Danielsson. Och den stora faran är kanske att vi av ren bekvämlighet slutar att tänka själva.
Ulf Danielsson är professor i teoretisk fysik och författare till flera populärvetenskapliga böcker. Han har länge intresserat sig för frågor om medvetande och kunskap, vilket han också skrivit om i boken ”Världen själv”. Så när debatten om AI startade i våras var han beredd. I en debattartikel i DN varnade han för att förmänskliga den nya tekniken.
– Det här är en del av en större rörelse där man saknar förmågan att skilja på verkligheten och det virtuella. Man blandar samman den matematiska modellen eller datasimuleringarna och verkligheten. Man får också för sig att det mänskliga tänkandet helt kan representeras av ett datorprogram, en algoritm.
Överskattning av maskinerna
Ulf Danielsson är förvånad över att så många forskare och filosofer dragits med i det här tänkandet. Vissa ser det som människans räddning att tänkande maskiner tar över i världen. Andra ser det som en fasansfull utveckling. Allting grundas i en överskattning av vad maskinerna kan åstadkomma, menar Ulf Danielsson.
– Det är alldeles säkert så att den här nya tekniken, som all ny teknik, kommer att kunna användas på både gott och ont. Men om man tar Chat-GPT så pratar vi inte längre så mycket om det. För något halvår sedan var det som om världens undergång stod för dörren, enligt vissa, men nu verkar det inte vara lika intressant.
Tydliga brister och problem
En orsak tror han är att Chat-GPT har tydliga brister och problemen kvarstår flera månader senare. Det tyder på att det inte är en exponentiell utveckling, där systemen blir intelligentare och smartare hela tiden och plötsligt tar över.
– Farhågorna i början var överdrivna. Däremot finns det ju olika sätt att missbruka det här, till exempel via sociala medier. Man kan utge sig för att vara någon annan och då blir det nästintill ett vapen. Man kan också tänka sig självstyrande missiler inom militärindustrin.
Det gäller att ha realistiska förväntningar på vad AI-systemen kan göra och ett väldefinierat problem, menar Ulf Danielsson. Foto: Mikael Wallerstedt
Samtidigt kan AI användas för många goda ändamål, till exempel inom forskningen om hur man kan optimera energisystem och lösa klimatkrisen. Men då gäller det att ha realistiska förväntningar på vad systemen kan göra och ett väldefinierat problem, menar Ulf Danielsson.
– Det ska vara ett problem inom vissa ramar, med bestämda regler. När mycket lämnas öppet och spelreglerna inte riktigt är klara går det inte så bra.
Risk att överutnyttja systemet
Inom hans eget forskningsområde teoretisk fysik används också en typ av AI – så kallade symbolhanteringssystem. De kan lösa ekvationer på ett väldigt effektivt sätt och han skulle välkomna om de blev väldigt mycket bättre – så länge de är pålitliga.
– Samtidigt finns det en risk att man blir frestad att överutnyttja systemet. Det kan jag se ibland hos studenter, doktorander och till och med postdocs. De är väldigt duktiga på att använda de här systemen, men använder dem kanske lite för mycket.
En del av tiden de lägger på att jobba med datorprogrammet skulle de kunna lägga på att själva få en djupare förståelse. Då blir det lättare att ställa de rätta frågorna och få de intressanta svaren.
– För att få den där djupare insikten som gör att man kommer vidare behöver man ibland själv gå igenom beräkningar och resonemang. Datorprogrammet kanske tar sig igenom det på bråkdelen av en sekund och man själv får sitta en lång stund, men det är det värt.
Innovationsgraden har minskat
I början av året skrev Ulf Danielsson en artikel om att vetenskapen verkar ha stagnerat. Det finns studier som visar att innovationsgraden har minskat inom forskningen, under loppet av några decennier. Forskningen handlar alltmer om att reproducera det som andra har gjort och allt mindre om nya idéer.
– Oavsett vad skälet är finns det en risk att AI förstärker det beteendet. Det är inte säkert att mönsterigenkännande AI-system kommer att göra de riktigt stora upptäckterna, säger Ulf Danielsson.
Det är därför som han har engagerat sig i debatten kring AI.
– Just den här frågan kopplar på ett fundamentalt sätt till vad vetenskap är, synen på oss själva och vad vi vill med samhället och framtiden. Därför är det så viktigt att vi beskriver systemen på ett korrekt sätt och inte förmänskligar dem.
Annica Hulth
Tema Intelligens?
Artificiell intelligens kan förhindra hjärtinfarkt, men den kan också ta ditt jobb. Dessutom väcker den nya frågor om vad intelligens egentligen är. Hur gör vi för att dra nytta av den nya AI-tekniken samtidigt som vi förebygger riskerna? Under temat "Intelligens?" har vi samlat aktuell forskning om AI vid Uppsala universitet.