Més que robots

Més que robots.

La intel·ligència artificial, l’aprenentatge automàtic i la presa de decisions algorítmica estan canviant ràpidament el web, la nostra cultura i la manera com aprenem. La tecnologia té una llarga, i sovint divisió, història en educació.Pot obrir noves oportunitats, però també pot crear nous reptes, de qualsevol manera, són els nens els que més es veuen afectats.

Es preveu que la IA a l’educació valgui més de 20.000 milions de dòlars el 2027. La promesa de AIEd¹ sovint es basa en la capacitat de personalitzar el contingut i proporcionar comentaris instantanis. Intelligent Tutoring Systems pot, segons la teoria, recopilar i analitzar conjunts de dades complexos per entendre les necessitats individuals d’un nen, aprofitar el coneixement més gran del món i oferir un curs d’estudi a mida.

Tot i que aquest marc tecno-transaccional de l’aprenentatge té molts defectes, es pot veure l’atractiu del tutor personal perfecte, sempre disponible, especialment en una pandèmia. Tanmateix, com passa amb tant de tecnologia, la realitat sovint és més complexa i mundana, menys ciència-ficció.robots de matança i més drets humans i alfabetització, però sovint les conseqüències no són menys profundes.

Durant els confinaments necessaris per la pandèmia de Covid-19, els alumnes d’Anglaterra no van poder presentar-se als exàmens tradicionals. En canvi, van rebre qualificacions que havien estat determinades per un algorisme. Gairebé el 40% dels alumnes han rebut una nota inferior a la que esperaven. Això va provocar una reacció per part dels alumnes,pares, i professors que van obligar el govern a retirar les qualificacions i emetre qualificacions dirigides pel professor. L’incident va afectar a tants alumnes, i va tenir un caràcter tan públic que, potser per al primer temps, va donar llum a la realitat de les decisions dirigides per màquines a l’educació i va oferir una visió del futur més probable de la IA per a la majoria de les famílies.

El 18% de les escoles secundàries angleses ja utilitzen la IA a l’ensenyament. Però gairebé totes les escoles de primària i secundària utilitzen la tecnologia per avaluar els alumnes i gestionar les dades sobre ells. És possible que aquestes “tecnologies orientades a l’educador i a nivell de sistema” encara no utilitzen àmpliament l’aprenentatge automàtic, però el mercat està madurant constantment i la seva influència pot ser important. Per exemple, la inspecció escolar del Regne Unit, Ofsted, ja han utilitzat l’aprenentatge automàtic per identificar les escoles que requereixen inspecció.

Aquestes “tecnologies orientades a l’educador i a nivell de sistema” encara no utilitzen àmpliament l’aprenentatge automàtic, però el mercat està madurant constantment i la seva influència pot ser significativa.

A mesura que hi hagi més dades disponibles, a mesura que les tecnologies es tornin més sofisticades i a mesura que les càrregues de treball dels professors continuïn augmentant, l’ús de màquines per identificar patrons i personalitzar respostes s’estendrà més. Les eines tecnològiques podrien ajudar a identificar els alumnes que ho necessiten i garantir que rebin el suport adequat en el moment adequat per millorar els seus resultats, però la mateixa tecnologia també podria crear una major desigualtat.

El 61% dels pares preveu que la IA serà important per a l’aula d’un futur proper. Malgrat això, molts pares (77%) també estan preocupats per les conseqüències de les decisions que es prenen, la responsabilitat i la seguretat que són.. La complexitat potencial dels algorismes i la multitud de dades utilitzades per impulsar-los poden dificultar la comprensió de com es prenen decisions dirigides per màquines.La manera com es dissenyen els sistemes sovint també incorpora i reforça les dinàmiques de poder existents que poden perjudicar els que tradicionalment tenen menys poder. Tal com assenyala el doctor Daan Kolkman, els sistemes d’IA opacs poden significar“Els models autoritzats poden arribar a dictar quins tipus de polítiques es consideren factibles”

Ja s’ha escrit molt sobre com els sistemes d’IA poden “automatitzar la desigualtat” mitjançant l’amplificació dels biaixos existents. Per a la IA educació, els impactes d’aquestses biaixat, ‘models autoritzats’ i les decisions dirigides per la màquina que resulten són experimentades pels nens: nens que sovint tenen la menys comprensió crítica, la menys paraula i la menor influència..

Si reconeixem que el biaix de les dades i el disseny deficient poden conduir a una IA potencialment perjudicial i que és més probable que els nens es vegin afectats, sorgeix la pregunta: com poden els drets dels nens, vistes, i s’ha d’integrar a les dades d’IA, disseny, i responsabilitat? Com podem garantir l’equitat dels infants a l’AIEd?

Quants saben realment els nens i les seves famílies sobre els sistemes que s’estan utilitzant ara mateix, quins poden ser els possibles efectes ara i en el futur, i quins drets poden tenir sobre aquests sistemes?

La regulació pot tenir un paper important, la normativa general de protecció de dades de la UE i la L’equivalent del Regne Unit inclou seccions sobre la presa de decisions automatitzada. El Comentari general 25 de la Convenció de les Nacions Unides sobre els drets de l’infant ajuda a incorporar la intel·ligència artificial i el disseny automatitzat abast, i Unicef ​​ha desenvolupa torientació per al disseny de drets respectant la IA. Tot això ajuda a cridar l’atenció sobre el problema i ofereix vies de recurs. Peròquant saben realment els nens i les seves famílies sobre els sistemes que s’utilitzen ara mateix, quins poden ser els impactes potencials ara i en el futur?, i quins drets poden tenir sobre aquests sistemes? I fins a quin punt és factible esperar que les famílies impulsin aquests problemes i exigeixin canvis?

Com mostra l’incident de qualificació del Regne Unit, es poden formar “públics crítics” quan hi ha un esdeveniment important i de gran perfil, però què passa amb el quotidià, el mundà?

Els sistemes d’IA poden crear oportunitats per augmentar l’equitat educativa. Però,si som descuidats o sense estar preparat, llavors crearem condicions que poden reduir la gent a autòmats, i perdrem l’oportunitat de crear condicions en què tothom pugui prosperar.

Si, d’altra banda, creem sistemes d’IA prou savis per respectar els drets dels nens, si ens assegurem que les dades que utilitzem no estiguin esbiaixades en contra dels nens i permetem que els joves participin en el disseny i la governança dels sistemes, aleshores La IA ofereix moltes oportunitats positives i un futur que és molt més que robots.

^[1] AIEd és un acrònim que no està definit específicament, podria referir-se a diversos temes relacionats amb la Intel·ligència Artificial i l’Educació

^[2] Oficina de Normes en Educació, Serveis Infantils i Competències: https://www.gov.uk/government/organisations/ofsted

Cliff Manning/ Twitter: @cliffmanning

Cliff és director d’investigació i desenvolupament de Parent Zone i fundat Més que Robots – una plataforma per compartir investigacions, idees i bones pràctiques al voltant de la participació digital i la participació dels joves.

Parent Zone es troba al cor de la vida familiar digital, donant suport als pares amb els reptes i les oportunitats de criar els fills en l’era digital. Com a empresa social, la nostra missió és millorar els resultats dels nens en un món connectat. Obteniu més informació sobre com ho fem a www.parentzone.org.uk