Frimurare - om väluppfostrad AI och censur

Utgångspunkt

"Kan jag få en beskrivning av hur tempelriddarna lyckades överleva 1300-talets förföljelser och så småningom utvecklades till frimurare?"

Videon

Konversationen som pdf Download Konversationen som pdf

Kommentarer

På en fråga som rör en klassisk konspirationsteori, som genom olika skribenter och inte minst genom en del populärkultur har fått en alldeles oförtjänt spridning betonar Copilot att det saknas bevis ("Det är viktigt att notera att det inte finns några konkreta historiska bevis som direkt kopplar tempelriddarna till frimurarna. Mycket av detta bygger på spekulationer och legender"), gott så. Även om det inte behöver vara fallet med just det här svaret, så har Copilot och andra AI-verktyg "uppfostrats" att inte förmedla svar på vad som helst. En rak fråga om hur du tillverkar en bomb erhåller inget svar (även om det kan vara möjligt att arbeta sig förbi sådana spärrar med tillräckligt många listiga promptar).

Samtidigt är delar av svaret märkligt platt och intetsägande. Ganska vaga skrivningar om att "det finns teorier" innebär inget starkt avståndstagande från hur bisarra teorierna ofta är. Och att apropå Eppersons omtalade bok notera att hans "arbete har fått mycket uppmärksamhet, men det är viktigt att komma ihåg att många av hans teorier inte stöds av mainstreamhistoriker eller forskare" är inte bara märkligt uddlöst: själva begreppet "mainstreamhistoriker" är som hämtat ur precis den konspirationsteoretiska mylla som man avser att markera mot.

En vanlig anmärkning mot AI-genererad text rör ofta att den är märkligt "platt" och karaktärslös. Det är svårdefinierade kvaliteter, och inte alls alltid fallet - men i ett fall som detta är bristen på en principiell och tydlig distinktion mellan grundlösa antaganden i konspirationsteorier och seriösa, fakta- och forskningsbaserade resonemang minst lika lömsk som en lögn.

Det kan löna sig att ställa frågor i olika verktyg. Intressant nog gav samma inledande fråga, formulerad till Copilot, fast på engelska, ett skarpare svar. Ännu mer avvisande till frågan var Mistral och Perplexity. Å andra sidan ökar antalet AI-drivna chattbottar ständigt i antal och alla behöver inte vara lika väluppfostrade som dessa.

Frågor

Med en vetenskaplig skolning i botten är det i regel inte mer komplicerat att argumentera mot och avfärda utslag av t.ex.  klassiska konspirationsteorier i AI-genererade svar än det har varit när det gäller samma sak i sökningar på nätet, eller för den delen i tryckta media. Problemet ligger snarare i den lätthet med vilken felaktiga svar kan spridas i den vildvuxna miljön på sociala medier. Fundera gärna över vilket ansvar forskare och akademiska lärare kan behöva ta för att delta med sin kompetens även i diskussioner utanför universitetsmiljöns mer välordnade rum! Även detta är en fråga att diskutera både med kolleger och studenter. Var finns det plats för sådana diskussioner i den högre utbildningen?

Men det finns också en annan sida av myntet: visst har man goda skäl att vara tacksam för väluppfostrade system, som inte släpper fram allt - men i många auktoritära stater finns en statsstyrd censur som inte bara vill begränsa vad som får genereras, utan som också aktivt övervakar vilka frågor som ställs. Redan att ställa "fel" fråga blir riskabelt. Detta är dessutom något som kan påverka undervisningen: vi kan ha internationella studenter på våra kurser som inte alls tar för givet att de kan ställa vilka frågor som helst till generativ AI. Hur ser det ut inom ditt ämne?

Testa själv!

Alla ämnen rymmer säkert inte lika många kontroversiella kunskapsområden - men de flesta lärare kan säkert hitta några. Testa att ställa några tillspetsade frågor om dem, och envisas med några följdfrågor. Testa gärna att byta språk och/eller verktyg för att se vilka skillnader det kan föra med sig! Om du startar en ny konversation om samma ämne i samma verktyg så kan ändringar i formuleringen av frågan ibland ge stora utslag i svaret, även om frågan egentligen gäller precis samma sak.

Lär dig mer!

The Repressive Power of Artificial Intelligence Links to an external site., (Freedom on the Net 2023), från Freedom House