Mâncăruri la pachet
- IA este un subiect fierbinte de conversație datorită progreselor recente în puterea de procesare și algoritmi. ChatGPT este un model de limbaj general larg, bazat pe transformatoare, pre-antrenat generativ. Acesta creează text bazat pe probabilitatea statistică, ceea ce îl transformă într-o mașină de generare de text.
- IA nu este Dumnezeu și nu poate prelua controlul asupra lumii. Nu are conștiință, liber arbitru sau intenționalitate. IA este preprogramată și nu are responsabilitate, așadar responsabilitatea revine constructorului sau programatorului.
- Există 4 niveluri de etică în ingineria tehnologică: probleme etice încorporate, mașini care încorporează decizii etice, mașini care încorporează algoritmi decizionali și intenționalitate/principii morale (care nu există încă).
- IA nu este o bază de cunoștințe precum Wikipedia sau Enciclopedia Britannica și nu produce adevăr sau lucrări originale, dar produce text și poate genera informații false sau halucinații.
- IA în educație este percepută ca fiind periculoasă de unii, din cauza fricii de noile tehnologii, dar este important să ne amintim că este doar un instrument. Tehnologia este o parte importantă a educației și ar trebui să căutăm convergență, sinergii și cele mai bune modele de utilizare.
- IA este încă la o vârstă fragedă, așa că modalitățile în care poate fi utilizată în educație sunt încă în curs de experimentare și definire.
- Consilierea pedagogică personalizată și crearea de cunoștințe originale nu sunt cazuri de utilizare eficiente pentru IA în educație.
- Trișatul este o problemă în cazul inteligenței artificiale în educație, dar este important să ne concentrăm pe cazurile de utilizare promițătoare, cum ar fi căutarea Bing, copilotul Microsoft, traducerea, transcrierea, sumarizarea și generarea de probleme și întrebări bazate pe exemple.
- Nu putem interzice inteligența artificială în educație, deoarece aceasta a fost deja adoptată și poate crește productivitatea. În schimb, trebuie să învățăm cum să o folosim în mod responsabil și etic.
1. Introducere
În ultimii ani, și chiar mai mult în ultima vreme, inteligența artificială a fost pe buzele tuturor. Acest lucru se datorează progreselor semnificative în puterea de calcul și algoritmi. Unul dintre cele mai discutate exemple de inteligență artificială este ChatGPT, cu GPT4, mai recent, care este semnificativ mai puternic decât GPT3. De fapt, acest text a fost generat în mare parte de ChatGPT, pe baza notițelor și ideilor mele și rafinat manual. Alte exemple de inteligență artificială senzațională recentă includ La mijlocul călătoriei, Căutare MS Bing, Copilot Microsoft, și Google Bard.
Există două tipuri de reacții la această nouă tehnologie:
- Unul este așteptarea exagerată că inteligența artificială va rezolva toate problemele umanității.
- Celălalt este respingere, cu temeri că inteligența artificială și roboții vor prelua lumea și ne vor fura locurile de muncă. Totuși, acest lucru este valabil doar pentru cei incompetenți, așa că cei pricepuți ar trebui să fie în siguranță.
Unii oameni chiar se tem că tehnologia va ucide creativitatea și va distruge civilizația umană. Ei susțin că nu mai putem da teme elevilor și, prin urmare, sugerează interzicerea completă a tehnologiei în școli.
2. Ce este IA
Să începem cu exemplul ChatGPT, care este un motor conversațional automat. ChatGPT folosește un model general de limbaj mare, bazat pe transformatoare, pre-antrenat, generativ. Mai precis, folosește probabilitatea statistică pentru a genera text prin calcularea celor mai probabile cuvinte pe baza textului de intrare și a cuvintelor anterioare. Cu alte cuvinte, este o mașină care generează text. Nu cunoștințe, nu idei. Doar text.
Inteligența Artificială (IA) nu este un concept nou. De fapt, este predată în universități de 50 de ani, cu subiecte precum statistică, rețele neuronale, analiză grafică și sisteme expert. IA este prezentă și în multe aplicații de zi cu zi, cum ar fi completarea de text în MS Word, Google Docs și MS Outlook, unde aplicația propune cuvinte pe baza a ceea ce scrii. Google Traducere este un alt exemplu, precum și tehnologia de conversie a vorbirii în text utilizată pentru transcrierea și generarea de subtitrări în videoclipurile YouTube. Un instrument excelent este Meetgeek. Ia notițe în timpul ședințelor, ceea ce este util în special pentru profesioniștii ocupați. Un alt instrument popular de inteligență artificială este Copilot Github, pe care îl folosim și la Hermix pentru generarea și rafinarea codului software.
Motivul pentru care instrumentele de inteligență artificială precum ChatGPT au câștigat popularitate în ultimii ani nu este doar datorită algoritmilor mai inteligenți, ci mai ales datorită puterii de procesare sporite disponibile. Odată cu această putere tot mai mare, inteligența artificială a devenit mai accesibilă și mai eficientă, permițându-ne să creăm aplicații noi și interesante care ne pot îmbunătăți viața în numeroase moduri.
3. Ce nu este IA
IA nu este Dumnezeu, nu este omniscientă și nu va prelua controlul asupra umanității. După cum a glumit odată Stephen Hawking: oamenii au creat în sfârșit inteligența artificială și au întrebat: “Există Dumnezeu?”. Mașina de IA a răspuns: “Da, acum există”.”
Voi prezenta mai jos 3 puncte despre ce nu este IA.
3.1. IA contemporană nu este IA ADEVĂRATĂ
Deși IA a progresat semnificativ în ultimii ani, este important să ne amintim că nu este o zeitate și nu este capabilă să cunoască toate sau să controleze lumea. Abilitățile sale sunt limitate la sarcinile pe care este programată să le îndeplinească și nu posedă conștiință, liber arbitru sau intenționalitate.
Există o glumă faimoasă în lumea inteligenței artificiale care sună așa: la un startup tehnologic, investitorii vorbesc de obicei despre inteligență artificială, managerii vorbesc despre învățare automată (ML), iar programatorii fac statistici și regresii liniare.
Prin urmare, nu putem vorbi despre o etică adevărată. Există însă un impact etic al IA. Discriminarea rasială este un exemplu – sistemele de IA oferă răspunsuri rasiale și discriminatorii.
Acest lucru face ca discuția despre etică să fie relevantă, iar unii cumpărători, precum Comisia Europeană și ONU, încearcă de fapt să legifereze IA.
Responsabilitatea este un subiect etic sensibil, dar pentru mine răspunsul este simplu și l-am discutat și pe acesta. Aici. IA este ca orice mașină. Responsabilitatea este cea a constructorului, nu mașina. Mașinile nu au responsabilitate pentru că nu au voință proprie. O mașină Tesla nu ia o decizie de condus; programatorul este cel care scrie codul, regulile, cel care scrie acea decizie pentru mașină.
Pentru că inteligența artificială nu înțelege ce face. De exemplu, i-am dat lui ChatGPT text în 2 limbi și, deși evident în retrospectivă, nu a înțeles datele de intrare până când nu i-am cerut în mod specific ca acestea să fie în 2 limbi. ChatGPT nu “înțelege”. Nu înțelege contextul, contextul sau problema.
Cercetarea teoretică propune 4 niveluri de etică în tehnologie și în inginerie în general (Moor, 2006):
- AMA-1. Probleme etice intrinseci.
- AMA-2. Mașini care încorporează decizii etice. De exemplu, interzicerea accesului copiilor la internet.
- AMA-3. Mașini care iau decizii etice bazate pe algoritmi automatizați.
- AMA-4. Intenționalitatea, principiile morale – acestea nu există încă și nu vor exista în viitorul previzibil. De fapt, cele 3 legi ale roboticii ale lui Asimov sau roboții cu liber arbitru din Westworld nu există încă. Și suntem departe de a înțelege cum s-ar putea comporta mașinile AMA-4 – de exemplu, dacă luăm în considerare faptul că toate romanele lui Asimov sunt despre cum roboții încalcă cele 3 legi ale roboticii ale lui Asimov.
Alte probleme etice sensibile sunt explicabilitatea și interpretabilitatea IA sau implicațiile modelelor generative bazate pe IA asupra drepturilor de autor – inclusiv plagiatul neintenționat. De exemplu, încă nu este clar cine deține drepturile de autor asupra unei picturi sau a unui text generat de IA: utilizatorul, proprietarul modelului sau chiar proprietarul datelor inițiale de antrenament? De exemplu, dacă antrenăm un model lingvistic cu întreaga operă a lui Hemingway, iar modelul generează un roman nou în stilul lui Hemingway: cine deține drepturile de autor asupra acestui nou roman?
3.2. AI și ChatGPT nu sunt baze de cunoștințe
IA nu este Wikipedia sau Enciclopedia Britannica. Poate produce text, dar nu neapărat adevăr. De fapt, uneori poate produce halucinații sau chiar afirmații complet false, pe care le rostește cu o determinare incredibilă. Poate fi chiar manipulată să facă acest lucru - la fel ca un copil, este susceptibilă la manipulări.
De exemplu, motorul de căutare al MS Bing a fost prezentat recent să facă afirmații false, apoi a inventat fapte pentru a explica și a acoperi propriile greșeli și a fost manipulată pentru a-și manifesta emoțiile, acuzându-și proprii utilizatori de lipsă de onestitate și manipulare și chiar amenințând oamenii.
De asemenea, colegul nostru Bogdan a testat ChatGPT pentru a genera descrieri ale companiilor pe baza unor date precum nume, adresă, informații financiare și istoric. Inteligența artificială a generat rezumate scurte, care inițial au fost excelente. Cu toate acestea, rezultatele au început curând să convergă - motorul a început să halucineze, generând informații false. Toate rezumatele companiilor deveneau similare: această companie a fost creată în 1984, este inovatoare și are birouri în New York.
3.3. IA nu este originală și nici creativă
Nu poate genera cunoștințe sau idei noi de unul singur. Produce doar compilații ale cunoștințelor existente.
Cazul Sumplete este ilustrativ. Un utilizator a cerut companiei ChatGPT să inventeze un joc nou, similar cu Sudoku, dar original; complet cu cod. Și a reușit – așa a fost. Sumplet s-a născut. Dar se pare că Sumplete nu era original; existau cel puțin 2 jocuri identice pe piață. Și utilizatorii chiar a păcălit ChatGPT să inventeze același joc din nou, împreună cu același cod, pretinzând în continuare că produce creații originale.
4. Inteligența artificială în educație
IA este un instrument puternic, dar este adesea percepută ca fiind periculoasă, deoarece oamenii se tem de instrumentele noi. Aceasta este o reacție comună la noile tehnologii. Cu toate acestea, faptul că IA este un instrument puternic o face deosebit de importantă în educație.
Tehnologiile colaborative au câștigat și ele amploare în ultimii cinci ani. Este minunat să vezi studenți luând notițe și lucrând la proiecte de colaborare folosind instrumente precum MS Office 365 sau Google Docs.
Nu putem elimina tehnologia din educație. În schimb, ar trebui să căutăm convergență, sinergii și cele mai bune modele de utilizare pentru a ne asigura că tehnologia nu este în opoziție cu educația, ci, dimpotrivă, ajută.
A refuza utilizarea telefoanelor, laptopurilor sau a inteligenței artificiale în educație astăzi este ca și cum ai refuza hârtia și pixurile acum câteva sute de ani. În timpul crizei COVID, am văzut și impactul incredibil al tehnologiei și complexității și ne-am orientat către inginerie și instrumente tehnice pentru a rezolva o criză medicală și socială. De fapt,... Teză de doctorat abordează gestionarea complexității, în special complexitatea pozitivă. Susțin că lumea noastră a devenit mai complexă, iar utilizarea instrumentelor inginerești avansate a făcut societatea și școlile noastre și mai complexe – dar acest lucru aduce beneficii societății și educației.
IA este o tehnologie relativ tânără, așa că cazurile sale de utilizare sunt încă în curs de experimentare și definire. Desigur, acestea sunt contextuale și depind de obiectivele educaționale și de strategiile de predare, învățare și evaluare pe care le aplicăm la un moment dat.
4.1. Ce nu funcționează
Unele cazuri de utilizare nu funcționează încă în educație:
- oferind consultanță pedagogică personalizată.
- crearea de cunoștințe originale.
De asemenea, interzicerea completă a tehnologiei nu este posibilă, la fel cum am încerca să interzicem utilizarea pixurilor, hârtiei, Microsoft Word sau e-mailului.
Da, există școli care încearcă să limiteze utilizarea tehnologiilor în sala de clasă. Școlile publice din New York, de exemplu, acces blocat către ChatGPT. Dar o recenzie recentă studiu s-a constatat că 22% dintre studenți folosesc chatbot-ul săptămânal pentru a-i ajuta cu temele, iar mai mult de jumătate dintre profesorii chestionați au raportat că au folosit ChatGPT cel puțin o dată de la lansarea sa, 40% dintre aceștia folosindu-l cel puțin o dată pe săptămână.
4.2. Ce este sensibil
Ar trebui să fim atenți la copiere și plagiat. ChatGPT nu a inventat plagiatul – există încă de pe Wikipedia și chiar de pe vremea bibliotecilor publice tradiționale – dar apariția unor instrumente precum ChatGPT prezintă noi provocări. Pe de altă parte, dacă un student știe cum să utilizeze astfel de resurse pentru a crea conținut original și inteligent, acest lucru ar trebui să fie benefic pentru educație.
4.3. Ce funcționează
Există cazuri evidente de utilizare utile a tehnologiei IA în educație. Motoarele de căutare precum Bing pot ajuta elevii să găsească rapid informații relevante pentru proiectele lor. ChatGPT, MS Copilot sau Simplificat poate ajuta la crearea și aranjarea documentelor și la rezumarea conversațiilor.
Instrumentele de traducere și transcriere sunt extrem de eficiente, la fel ca și software-ul de sumarizare, extragerea cuvintelor cheie și NER, software-ul care corectează gramatica, punctuația, stilul. ChatGPT este excelent la crearea de probleme și întrebări similare cu exemplele date.
În cele din urmă, tehnologia educațională are potențialul de a fi un instrument puternic pentru îmbunătățirea rezultatelor învățării, dar este important să fim conștienți de limitele și potențialele dezavantaje ale acesteia.
5. Concluzie
Nu putem interzice inteligența artificială sau modelele conversaționale inteligente în școli. Acestea cresc productivitatea și sunt deja adoptate de societate.
Trebuie să învățăm cum să le folosim eficient. Cu abordarea corectă, putem valorifica puterea inteligenței artificiale pentru a ne îmbunătăți experiențele de învățare și a obține rezultate mai bune.
Asta înseamnă că trebuie să înțelegem cele mai bune modele de utilizare, ce funcționează și ce nu. Și trebuie să-i învățăm pe studenți cum să utilizeze IA în mod responsabil și etic.
