Implikationer av ChatGPT

Inom cybersäkerhet

Check Point Research och andra noterade att ChatGPT kunde skrivanätfiskee-postmeddelanden ochskadlig kod, särskilt i kombination medOpenAI CodexOpenAI:s VD skrev att avancerad mjukvara skulle kunna utgöra ”(till exempel) en enorm cybersäkerhetsrisk” och fortsatte också att förutspå att ”vi skulle kunna få verklig AGI (artificiell generell intelligens) under det kommande decenniet, så vi måste ta risken med det på största allvar”. Altman menade att även om ChatGPT ”uppenbarligen inte är i närheten av AGI”, borde man ”lita påexponentiellPlatt bakåtblickande,vertikalt framåtblickande"

I den akademiska världen

ChatGPT kan skriva inledningar och sammanfattningar i vetenskapliga artiklar, vilket väcker etiska frågor. Flera artiklar har redan listat ChatGPT som medförfattare.

IAtlantentidskrift,Stephen Marchenoterade att dess effekt på den akademiska världen och särskiltansökningsuppsatserär ännu inte förstått. Den kaliforniske gymnasieläraren och författaren Daniel Herman skrev att ChatGPT skulle innebära "slutet för gymnasieengelskan". INaturtidskriften påpekade Chris Stokel-Walker att lärare borde vara oroliga för att elever använder ChatGPT för att outsourca sitt skrivande, men att utbildningsanordnare kommer att anpassa sig för att förbättra kritiskt tänkande eller resonemang. Emma Bowman medNPRskrev om faran med att studenter plagierar med hjälp av ett AI-verktyg som kan skriva ut partisk eller meningslös text med en auktoritativ ton: ”Det finns fortfarande många fall där du ställer en fråga och den ger dig ett mycket imponerande svar som helt enkelt är helt fel.”

Joanna Stern medWall Street Journalbeskrev fusk i amerikansk gymnasieengelska med verktyget genom att skicka in en genererad uppsats. Professor Darren Hick frånFurman Universitybeskrev hur han lade märke till ChatGPT:s "stil" i en uppsats som lämnats in av en student. En GPT-detektor online hävdade att uppsatsen med 99,9 procents sannolikhet var datorgenererad, men Hick hade inga konkreta bevis. Studenten i fråga erkände dock att han använt GPT när han konfronterades, och misslyckades följaktligen med kursen. Hick föreslog en policy att ge en individuell muntlig examination om uppsatsens ämne om en student starkt misstänks för att ha lämnat in en AI-genererad uppsats. Edward Tian, ​​en sistaårsstudent på grundnivå vidPrinceton University, skapade ett program med namnet ”GPTZero”, som avgör hur mycket av en text som är AI-genererad, vilket kan användas för att upptäcka om en uppsats är skriven av människor för att bekämpaakademisk plagiering.

Från och med den 4 januari 2023 har New York City Department of Education begränsat åtkomsten till ChatGPT från sina offentliga skolors internet och enheter.

I ett blindtest bedömdes ChatGPT ha klarat prov på avancerad nivå vidMinnesotas universitetpå nivån för en C+ student och vidWharton School vid University of Pennsylvaniamed betyget B till B-. (Wikipedia)

Nästa gång kommer vi att prata om etiska frågor kring ChatGPT.