Implikationer av ChatGPT

Inom cybersäkerhet

Check Point Research och andra noterade att ChatGPT kunde skrivanätfiskemejl ochskadlig programvara, speciellt i kombination medOpenAI Codex.OpenAI VD skrev att avancerad mjukvara kunde utgöra "(till exempel) en enorm cybersäkerhetsrisk" och fortsatte också att förutsäga "vi kunde komma till riktig AGI (artificiell allmän intelligens) under det kommande decenniet, så vi måste ta risken för det på största allvar”.Altman hävdade att även om ChatGPT "uppenbarligen inte är nära AGI", borde man "lita påexponentiell.Platt tittar bakåt,vertikalt framåt.”

I akademin

ChatGPT kan skriva introduktioner och abstrakta avsnitt av vetenskapliga artiklar, vilket väcker etiska frågor.Flera tidningar har redan listat ChatGPT som medförfattare.

IAtlantentidskrift,Stephen Marchenoterade att dess effekt på akademin och särskiltansökningsuppsatserär ännu inte förstådd.Kalifornien gymnasielärare och författare Daniel Herman skrev att ChatGPT skulle inleda "slutet på gymnasieengelska".I denNaturChris Stokel-Walker påpekade att lärare borde vara oroliga över att elever använder ChatGPT för att lägga ut sitt skrivande på entreprenad, men att utbildningsanordnare kommer att anpassa sig för att förbättra kritiskt tänkande eller resonemang.Emma Bowman medNPRskrev om faran med att elever plagierar genom ett AI-verktyg som kan mata ut partisk eller meningslös text med en auktoritativ ton: "Det finns fortfarande många fall där du ställer en fråga till det och det kommer att ge dig ett mycket imponerande klingande svar som bara är helt fel."

Joanna Stern medWall Street Journalbeskrev fusk på amerikansk gymnasieengelska med verktyget genom att skicka in en genererad uppsats.Professor Darren Hick frånFurman Universitybeskrev att lägga märke till ChatGPT:s "stil" i en uppsats som lämnats in av en student.En online GPT-detektor hävdade att pappret med 99,9 procent sannolikt var datorgenererat, men Hick hade inga hårda bevis.Däremot erkände studenten i fråga att ha använt GPT när han konfronterades, och som en följd av detta underkändes kursen.Hick föreslog en policy att ge en ad-hoc individuell muntlig tentamen om pappersämnet om en student är starkt misstänkt för att lämna in en AI-genererad uppsats.Edward Tian, ​​en senior student vidPrinceton Universitet, skapade ett program, kallat "GPTZero", som bestämmer hur mycket av en text som genereras av AI, vilket lånar sig till att användas för att upptäcka om en uppsats är mänsklig skriven för att bekämpaakademiskt plagiat.

Från och med den 4 januari 2023 har New York City Department of Education begränsat åtkomsten till ChatGPT från sin offentliga skolas internet och enheter.

I ett förblindat test bedömdes ChatGPT ha klarat examina på forskarnivåUniversity of Minnesotapå nivån för en C+-elev och påWharton School vid University of Pennsylvaniamed betyget B till B.(Wikipedia)

Nästa gång kommer vi att prata om ChatGPT:s etiska problem.