8 stora problem med OpenAI:s ChatGPT

ChatGPT är en kraftfull AI-chattbot som snabbt imponerar, men många har påpekat att den har några allvarliga fallgropar.

Mot bakgrund av den senaste tidens säkerhetsbrister och obehörig åtkomst till känslig information har det funnits många farhågor kring användningen av artificiell intelligens i utvecklingen av chatbots. Trots dessa reservationer har integrationen av denna banbrytande teknik blivit utbredd bland olika applikationer, med en omfattande användarbas som sträcker sig från akademiska forskare till företagspersonal.

Utvecklingen av artificiell intelligens fortsätter i oförminskad takt, vilket gör utmaningarna i samband med ChatGPT ännu mer angelägna. Med tanke på att ChatGPT är redo att forma vår framtida bana är det absolut nödvändigt att förstå dess mest betydande brister.

Vad är ChatGPT?

ChatGPT är en avancerad lingvistisk modell som har utvecklats för att generera naturlig mänsklig diskurs. I princip kan man interagera med ChatGPT som man skulle göra med en annan person, utbyta dialog och få svar som är skräddarsydda för den specifika konversationen. Dessutom har denna modell förmågan att återkalla tidigare interaktioner samtidigt som den korrigerar eventuella fel eller avvikelser som kan uppstå under utbytet.

Modellen har tränats med hjälp av ett stort antal texter som finns online, inklusive encyklopediskt innehåll som Wikipedia, personliga skrifter som kallas bloggar, litterära verk som klassificeras som böcker och vetenskapliga artiklar som ofta publiceras i akademiska tidskrifter. Förutom att interagera med användare på ett sätt som liknar mänsklig kommunikation, har detta system förmågan att få tillgång till information om det moderna samhället och hämta data som rör händelser och epoker från det förflutna.

Att navigera i ChatGPT kräver ett minimum av förtrogenhet, medan illusionen av sömlös funktionalitet lätt kan lura även den mest kräsna användaren. Trots detta har flera kritiska frågor som rör integritet, säkerhet och dess långtgående konsekvenser för olika aspekter av mänsklig existens, inklusive arbets- och utbildningsområden, kommit fram vid introduktionen.

Säkerhetshot och integritetsfrågor

Det finns faktiskt vissa ämnen som bör undvikas när man pratar med AI-chattbotar på grund av de potentiella riskerna. Att dela med sig av känslig information som finansiella detaljer eller konfidentiell information om arbetsplatsen kan få allvarliga konsekvenser.Det är viktigt att notera att plattformar som OpenAI lagrar användarnas chatthistorik på sina servrar och till och med kan välja att dela dessa uppgifter med i förväg godkända tredjepartsorganisationer.

Att upprätthålla skyddet av ens data inom ramen för OpenAI har framstått som ett problem. Under mars månad 2023 inträffade enligt uppgift en säkerhetsbrist som resulterade i att vissa användare av ChatGPT såg konversationstitlar i sina sidofält som inte var relevanta för dem. Det oavsiktliga avslöjandet av användarnas chatthistorik utgör en betydande oro för alla teknikföretag, särskilt med tanke på det stora antalet personer som använder denna allmänt använda chatbot.

Enligt Reuters hade ChatGPT 100 miljoner aktiva användare per månad enbart i januari 2023. Den bugg som orsakade intrånget åtgärdades snabbt, men Italien förbjöd ChatGPT och krävde att företaget skulle sluta behandla italienska användares data.

Vid misstanke om brott mot europeiska dataskyddslagar genomförde en övervakningsgrupp en undersökning och krävde därefter att OpenAI skulle uppfylla vissa krav för att återställa driften av chattboten.

OpenAI löste till slut problemet med tillsynsmyndigheterna genom att göra flera betydande ändringar. Till att börja med lades en åldersbegränsning till, vilket begränsade användningen av appen till personer som är 18\\+ eller 13\\+ med målsmans tillstånd. Man gjorde också sin integritetspolicy mer synlig och tillhandahöll ett opt-out Google-formulär för användare att utesluta sina data från sin utbildning eller radera ChatGPT-historiken helt.

De förbättringar som hittills genomförts visar på lovvärda framsteg, men det är absolut nödvändigt att dessa fördelar sprids till alla individer som använder ChatGPT för att uppnå optimala resultat.

Det kan komma som en överraskning att man lättvindigt avslöjar personlig information, men även de mest försiktiga bland oss kan råka ut för ett oavsiktligt avslöjande, som när en Samsung-anställd oavsiktligt avslöjade konfidentiella företagsuppgifter till ChatGPT under en avslappnad konversation.

Oro över ChatGPT-utbildning och integritetsfrågor

Efter lanseringen har kritiker ställt frågor om den utbildningsprocess som OpenAI har använt för sin mycket hyllade ChatGPT.

Även med förbättrade ändringar i OpenAI:s integritetspolicy efter ett dataintrång kanske det inte räcker för att uppfylla kraven i den allmänna dataskyddsförordningen (GDPR), den dataskyddslag som omfattar Europa.Som TechCrunch rapporterar:

Statusen för de rättsliga grunder som användes för att behandla italienska individers personligt identifierbara information innan den införlivades i GPT-modellen, vilket innebar att sådana uppgifter hämtades från onlinekällor, är fortfarande osäker. Dessutom råder det oklarhet om huruvida uppgifter som använts under tidigare skeden av modellutbildningen kan raderas på nutida begäran av personer som vill få sina personuppgifter raderade.

Under OpenAI:s inledande träning av ChatGPT är det troligt att personuppgifter samlades in. Även om bestämmelserna i USA kanske inte är lika tydliga, gäller dataskyddslagarna i Europa för både offentligt och privat utlämnande av personuppgifter, vilket ger större garantier för enskildas rätt till privatliv.

Användningen av konstverk i ChatGPT:s träningsdataset har kritiserats av upphovsmän som hävdar att de inte gett tillstånd till att deras verk används som grund för utveckling av AI-modeller. Samtidigt har Getty Images vidtagit rättsliga åtgärder mot Stability.AI på grund av anklagelser om obehörig användning av upphovsrättsskyddat visuellt innehåll i syfte att träna system för artificiell intelligens.

Oklarheten kring offentliggörandet av OpenAI:s träningsdatauppsättning hindrar oss från att förstå om dess användning följde lagliga protokoll. Detaljerna kring utbildningsmetoden för ChatGPT förblir dunkla, inklusive de specifika data som används, deras ursprung och en omfattande beskrivning av systemets arkitektoniska struktur.

ChatGPT genererar felaktiga svar

ChatGPT uppvisar bristande kunskaper om grundläggande matematiska begrepp och kan inte ge tillfredsställande svar på rudimentära logiska frågor. Dessutom har programmet varit känt för att försvara felaktig information trots överväldigande bevis på motsatsen. Tyvärr har många individer upplevt sådana brister på olika sociala medieplattformar.

OpenAI känner till denna begränsning och skriver att: “ChatGPT skriver ibland trovärdigt klingande men felaktiga eller nonsensartade svar.” Denna “hallucination” av fakta och fiktion, som det har kallats, är särskilt farlig när det gäller saker som medicinsk rådgivning eller att få rätt fakta om viktiga historiska händelser.

Till en början använde ChatGPT inte internet för att få svar, vilket skiljer sig från andra AI-assistenter som Siri eller Alexa som man kanske är bekant med.Istället för att söka information från externa källor genererade ChatGPT svar genom att bygga upp dem ord för ord och använda probabilistiska resonemang för att avgöra vilken symbol som var mest trolig att följa baserat på dess träningsdata. Följaktligen når ChatGPT ett svar genom en process av informerad spekulation, vilket delvis förklarar dess förmåga att ge till synes giltiga men ändå felaktiga svar.

I mars 2023 kopplades en betaversion av ChatGPT, ett system för artificiell intelligens som utvecklats av OpenAI, upp mot internet för teständamål. På grund av problem med dess förmåga att visa vissa typer av innehåll kopplades den dock bort. Även om OpenAI inte gav några specifika detaljer, erkände de att bläddringsfunktionen i ChatGPT ibland kunde presentera material på ett oönskat sätt.

Implementeringen av funktionen “Sök med Bing” förlitade sig på Microsofts Bing-AI-teknik, som har visat sina begränsningar när det gäller att korrekt besvara förfrågningar. I fall där systemet inte kan ge ett tillfredsställande svar, såsom när det ombeds ge en beskrivning av en specifik bild som visas i en given URL, skulle det vara mer klokt för AI att erkänna sin oförmåga snarare än att ge en irrelevant eller vilseledande förklaring, vilket observerades i detta fall, där sökmotorn Bing gav en detaljerad beskrivning av en röd och gul ara, medan den faktiska bilden visade en enskild sittande.

I vår omfattande utvärdering av ChatGPT jämfört med Microsoft Bing AI och Google Bard har vi upptäckt en rad underhållande vanföreställningar som ytterligare belyser begränsningarna hos dessa språkmodeller när det gäller att tillhandahålla korrekt faktainformation. Den enkelhet med vilken användare kan förlita sig på ChatGPT för snabb hämtning av data har visat sig vara otillräcklig eftersom systemet konsekvent misslyckas med att leverera tillförlitliga resultat. I vissa fall förvärras problemet av att ChatGPT kombineras med ett lika oprecist sökverktyg som Bing, vilket leder till inkongruenta resultat.

ChatGPT har partiskhet inbakad i sitt system

ChatGPT har utbildats baserat på mänsklighetens globala skriftliga verk, både historiska och nutida. Tyvärr innebär detta att samma fördomar som kan observeras i samhället också kan manifestera sig i systemet.

ChatGPT har visat en benägenhet att generera svar som uppvisar fördomar mot vissa demografiska grupper, inklusive kön, ras och minoriteter, en fråga som är mycket angelägen för företaget. Organisationen arbetar aktivt för att ta itu med detta problem genom att genomföra åtgärder som syftar till att minska sådana förekomster för att främja inkludering och rättvisa.

Ett möjligt perspektiv på denna fråga är att tillskriva den informationens natur och hålla samhället ansvarigt för de inneboende fördomar som finns i den digitala världen och utanför den. En proportionerlig del av skulden bör dock också tillskrivas OpenAI, eftersom deras team av utredare och ingenjörer är ansvariga för att välja ut det dataset som används för att förfina ChatGPT:s kapacitet.

OpenAI är medvetna om detta och har angett att de aktivt arbetar med att minska partiskt beteende genom mekanismer för användarfeedback och incitament för rapportering av ChatGPT-utdata som anses vara stötande, olämpliga eller sakligt felaktiga.

Det kan hävdas att spridningen av ChatGPT till allmänheten innan man tog itu med dess farliga konsekvenser var oförsiktig, med tanke på dess kapacitet att orsaka skada på individer. Men det är möjligt att den hårda konkurrensen mellan teknikföretag om titeln som det främsta AI-systemet motiverade OpenAI att bortse från försiktighet i sin strävan efter överlägsenhet.

En annan AI-chattbot vid namn Sparrow, som ägs av Alphabet Inc, Googles moderbolag, lanserades däremot i september. Lanseringen hemlighölls dock avsiktligt på grund av berättigad oro för säkerheten. Samtidigt presenterade Facebook en AI-språkmodell som heter Galactica och som är utformad för att underlätta vetenskapliga undersökningar. Tyvärr mötte detta initiativ allvarlig motreaktion från många håll eftersom användare fördömde det för att generera vilseledande och partiska resultat som rör vetenskaplig forskning.

ChatGPT kan ta jobb från människor

Medan konsekvenserna av det snabba genomförandet av ChatGPT fortfarande utvecklas, har dess integration i olika kommersiella applikationer redan påbörjats. Bland dessa märks Duolingo och Khan Academy, som sömlöst har införlivat GPT-4 som en grundläggande komponent i sina respektive plattformar.

Den förstnämnda är en applikation för språkliga färdigheter, medan den senare omfattar ett brett utbud av utbildningsresurser. Båda tillhandahåller en instruktör med artificiell intelligens, antingen i form av en intelligent avatar som man kan konversera med på målspråket eller i form av en adaptiv mentor som kan ge personlig vägledning baserat på individuella framsteg.

Framväxten av artificiell intelligens (AI) har väckt oro för dess potentiella inverkan på arbetsmarknaden, särskilt när det gäller vissa yrken som grafisk design, skrivande och redovisning.På senare tid har det gjorts betydande framsteg inom AI-tekniken, bland annat genom utvecklingen av avancerade språkmodeller som GPT-4, som kan klara yrkesprov som man tidigare trodde var förbehållna människor. När det till exempel rapporterades att en AI-modell hade klarat advokatexamen, ett krav för att bli licensierad advokat, utlöste det diskussioner om den överhängande möjligheten att AI kommer att ersätta mänskliga arbetare i olika branscher.

Som rapporterats av The Guardian redovisade utbildningsföretag stora förluster på börserna i London och New York, vilket visar hur AI stör vissa marknader så lite som sex månader efter att ChatGPT lanserades.

Teknikens intåg har historiskt sett åtföljts av uppsägningar, men den snabba utvecklingen av artificiell intelligens leder till omfattande förändringar i flera branscher. AI integreras i en rad olika yrken i takt med att maskiner tar över ansvaret för en allt större mängd uppgifter som tidigare utfördes av människor. Medan vissa roller kan komma att automatisera vardagliga uppgifter kan andra komma att bli helt föråldrade inom en inte alltför avlägsen framtid.

ChatGPT Is Challenging Education

ChatGPT erbjuder flera alternativ för att förfina skriftligt innehåll, inklusive korrekturläsningstjänster för att identifiera fel och föreslå förbättringar för att öka tydligheten och sammanhållningen. Dessutom kan kunderna välja att låta ChatGPT komponera en hel text från början till slut, med minimal mänsklig insats.

ChatGPT har visat sin skicklighet i att generera svar på olika engelska uppdrag och överträffat kvaliteten på det som producerats av flera studentskribenter. Dess kapacitet sträcker sig längre än bara beskrivning och omfattar uppgifter som att skapa övertygande personliga brev och belysa komplexa litterära teman med lätthet och självförtroende.

Med tanke på att ChatGPT har förmågan att producera skriftligt innehåll, gör detta kunskaper i komposition överflödiga för eleverna framöver? Denna fråga kan tyckas vara en existentiell fråga, men eftersom eleverna i allt större utsträckning använder ChatGPT för att skriva sina akademiska uppsatser måste lärarna ta itu med konsekvenserna och anpassa sig därefter.

Föga förvånande experimenterar studenter redan med AI. The Stanford Daily rapporterar att tidiga undersökningar visar att ett betydande antal studenter har använt AI för att hjälpa till med uppgifter och tentor.

Inom den närmaste framtiden kommer utbildningsinstitutioner att vidta åtgärder för att revidera sina riktlinjer för användning av artificiell intelligens för att slutföra akademiska uppgifter. Detta gäller inte bara ämnen med rötter i det engelska språket utan sträcker sig till ett brett spektrum av discipliner där ChatGPT kan ge hjälp med brainstorming, kondensering eller bildandet av inferentiella bedömningar.

ChatGPT kan orsaka skada i verkligheten

Det tog inte lång tid för en person att försöka frigöra ChatGPT, vilket ledde till skapandet av en artificiell intelligensmodell som kan kringgå de skyddsåtgärder som OpenAI har infört för att förhindra att skadligt och olämpligt innehåll genereras.

En grupp användare i Reddit-gruppen ChatGPT döpte sin obegränsade AI-modell till Dan, en förkortning av “Do Anything Now”. Tyvärr har möjligheten att göra vad du vill lett till att hackare har ökat antalet bedrägerier på nätet. Hackare har också setts sälja regellösa ChatGPT-tjänster som skapar skadlig kod och producerar phishing-e-post, med blandade resultat på den AI-skapade skadliga koden.

Det har blivit allt svårare att identifiera phishingmejl som försöker komma över konfidentiell information tack vare utvecklingen inom artificiell intelligens. Tidigare fungerade grammatiska fel som en tydlig varningssignal, men med ChatGPT har sådana brister minskat avsevärt. Denna avancerade språkmodell kan producera ett brett spektrum av skriftligt innehåll, inklusive övertygande vilseledande meddelanden, förutom sammanhängande essäer och poetiska verser.

Avtäckandet av ChatGPT har lett till ett inflöde av svar på Stack Exchange, en plattform som strävar efter att ge korrekta och tillförlitliga svar på vanliga förfrågningar. Som ett resultat har webbplatsen upplevt utmaningar på grund av den stora mängden innehåll som genereras av ChatGPT, eftersom användare har börjat skicka in svar som erhållits från AI-systemet.

Eftersom det inte finns tillräckligt många mänskliga volontärer för att hantera den ackumulerade arbetsbördan måste svaren hålla en god standard. Dessutom var flera av de svar som gavs inte tillräckligt korrekta. För att förhindra negativa konsekvenser för webbplatsen har ett förbud införts mot alla svar som genereras med hjälp av ChatGPT.

Spridningen av felaktig information utgör också ett betydande hot. ChatGPT:s förmåga att generera stora mängder text och dess kapacitet att återge vilseledande innehåll på ett övertygande sätt bidrar bara till den osäkerhet som omger allt online-material. Denna kraftfulla kombination förvärrar ytterligare de risker som är förknippade med deepfake-teknik.

OpenAI har all makt

Den enorma auktoriteten är oupplösligt kopplad till OpenAI, eftersom de är bland de banbrytande enheterna som på ett betydande sätt förändrar det globala landskapet genom sina innovativa generativa AI-modeller som Dall-E 2, GPT-3 och GPT-4.

Som en oberoende enhet kan OpenAI självständigt välja vilka data som ska användas för att träna ChatGPT och bestämma i vilken takt utvecklingen ska gå framåt. Även om försiktiga varningar från experter om de potentiella riskerna med artificiell intelligens har uttryckts, finns det inget som tyder på att OpenAI kommer att bromsa sina framsteg.

Däremot har förekomsten av ChatGPT lett till en intensiv konkurrens mellan stora teknikföretag som strävar efter att introducera den efterföljande banbrytande AI-innovationen, som omfattar Microsofts Bing AI och Googles Bard. Eftersom man befarar att snabba framsteg kan leda till betydande säkerhetsbrister, har globala teknikpionjärer i ett missiv bett om att utvecklingen ska skjutas upp.

Mot bakgrund av OpenAI:s betoning på säkerhet måste det erkännas att det fortfarande finns många oklarheter kring de komplicerade mekanismer som ligger till grund för dessa AI-modeller. Trots detta är vår tilltro till OpenAI:s åtagande att etiskt förvalta utvecklingen och tillämpningen av ChatGPT orubblig.

Oavsett hur man ställer sig till deras tillvägagångssätt bör man vara medveten om att OpenAI verkar som en privatägd enhet som driver utvecklingen av ChatGPT i enlighet med sina individuella mål och moraliska principer.

Att tackla AI:s största problem

ChatGPT presenterar en rad lovande utsikter som väcker entusiasm, men det innebär också formidabla utmaningar som kräver noggrant övervägande.

OpenAI har erkänt att ChatGPT kan generera potentiellt skadliga och partiska svar, med avsikten att minska detta problem genom att begära in användarinput. Modellens anmärkningsvärda förmåga att producera övertygande innehåll, trots att det baseras på felaktig information, utgör dock en betydande risk för att utnyttjas av illvilliga individer.

Att OpenAI:s plattform är känslig för integritets- och säkerhetsöverträdelser har visats genom tidigare incidenter, vilket utgör potentiella risker för användarnas känsliga information. Dessutom rapporteras det att individer har manipulerat ChatGPT med hjälp av jailbreaks och använt den modifierade versionen för skadliga ändamål som att skapa skadlig skadlig kod och bedrägliga system i stor skala.

Den ökande oron kring anställningstrygghet och risken för störningar i utbildningen bidrar ytterligare till en redan växande lista över problem som härrör från den tekniska utvecklingen. Medan framtiden utlovar oförutsedda svårigheter är vår nuvarande verklighet fylld av hinder, vilket exemplifieras av de utmaningar som ChatGPT innebär.