Entrevista a Óscar Fontenla Romero

Entrevista realizada por Juan Granados, director de Eduga

No contexto da primeira xornada de formación da inspección educativa realizada en Santiago de Compostela, tivemos o pracer de asistir ao relatorio do doutor en Informática e profesor de Ciencias da Computación e Intelixencia Artificial Óscar Fontenla Romero, que nos foi desvelando as reviravoltas dos inicios, evolución e desenvolvemento de intelixencia artificial e, a continuación, púidonos ofrecer o desenvolvemento dalgunhas das súas aplicacións educativas máis coñecidas, cos seus riscos e oportunidades.

Juan Granados: Estimado Óscar, moi benvido á Revista Galega do Ensino e moitísimas grazas pola túa presenza. En primeiro lugar, comentarche que a min me chamou moito a atención a túa brillante introdución sobre as orixes da intelixencia artificial, que moitísima xente descoñece. Uns comezos que foron, en principio, prometedores, pero que pasaron por un certo «inverno de investigación». Gustaríame que, brevemente, nos puideses explicar como foi esa evolución.

Óscar Fontenla: Si, a IA é unha tecnoloxía que naceu fundamentalmente na década dos anos cincuenta, a raíz dunha conferencia nos Estados Unidos no ano 1956, onde por primeira vez se reuniu un grupo de científicos para establecer ese nome e ese concepto: crear máquinas capaces de resolver problemas cun modo «humano» de pensar. En principio, apostouse moito por esa tecnoloxía. Que pasou nesa época? Pois que, inicialmente existiu financiamento para poder facer proxectos, pero moi pronto, a partir da década dos sesenta, atopámonos cun primeiro inverno da intelixencia artificial porque, aínda que os científicos posuían moita capacidade para resolver problemas, non se vían acompañados polo hardware de computación necesario. Iso condicionou moito os avances. A partir desa época, os gobernos deixaron de investir na IA, especialmente o británico e o estadounidense, de aí ese primeiro inverno.

Non obstante, a partir da década dos oitenta volveu rexurdir outra vez a intelixencia artificial, debido á aparición de novas técnicas, cos chamados sistemas expertos, e recuperouse o financiamento para traballar en intelixencia artificial. Porén, posteriormente houbo outro decaemento, un segundo inverno, debido a que estes sistemas funcionaban en contornos moi específicos, pero logo no ámbito comercial, no ámbito real, no deseño de produtos reais, aínda estaban moi limitados.

A partir de mediados dos noventa, apareceu unha nova técnica que é coñecida como aprendizaxe automática, que revolucionou un pouco todo o ámbito da intelixencia artificial porque permitiu que estes modelos aprendesen, digamos, de forma automática a partir de datos. É dicir, non era necesario plasmar o coñecemento humano de forma explícita, senón que os propios sistemas eran capaces de deducir o coñecemento inherente á súa disposición. E a partir dese momento, estamos a vivir un terceiro verán que aínda continúa e está fundamentado basicamente nese tipo de técnicas que permiten aprender a partir de exemplos.

Que é o que cambia hoxe en día con respecto ao inicio da intelixencia artificial? Pois basicamente hai tres factores esenciais: novas técnicas e métodos científicos, novos sistemas de computación que nos permiten ter cálculos de forma moito máis eficiente e o feito de que estes sistemas aprenden a partir dos datos. E é que agora mesmo, na actualidade, temos acceso a miles de fontes de datos, de forma gratuíta e accesible, e que na década dos anos cincuenta non existían. Hoxe en día, dispoñemos de millóns de datos a partir dos cales os sistemas poden aprender.

JG: Certamente, o fenómeno está agora tan estendido que resulta imparable. Ás veces critícaselle que esa «primeira resposta» procedente dunha IA gratuíta é «demasiado sinxela» ou directamente errónea…

OF: A linguaxe final é correcta, é dicir, a linguaxe tal como está escrita ten unha sintaxe que é correcta. Os modelos de linguaxe aprenden como responder a unha determinada linguaxe de forma correcta, independentemente de que a información que apareza alí sexa máis ou menos rigorosa, ou sexa máis verídica ou menos. Entón basicamente estes sistemas o que aprenden é coma se un neno aprende desde cero a falar, aprenden a falar e son capaces de responder de forma adecuada, correctamente ou non correctamente, pero de forma coherente. Ese primeiro proceso de adestramento do modelo o que permite é que o sistema aprenda a falar. E logo, como comentabas, existen tamén xa sistemas que intentan refinar a resposta de forma que eviten o que se chama «alucinacións», é dicir, responder cousas que son coherentes, pero que non son verídicas, que son cousas que non existen ou que non son certas.

É un pouco nas liñas que tamén se está traballando, intentar refinar eses modelos para que non só contesten cousas que estean ben construídas, senón que o que intenten responder sexa o máis fiable posible. Pois ben, aí tamén se está traballando.

JG: Si, e moi ben a xulgar polos avances que se observan nas ferramentas nos últimos tempos, moito máis exactas e moito máis afinadas; sobre todo cando as dirixes cara a fontes de información fiables e contrastadas.

Volvendo á túa conferencia, a min chamoume especialmente a atención a forma na que  traballa en realidade a intelixencia artificial, iso que nos contabas de que á hora de buscar, por exemplo, que a capital de Francia é París, poderiamos supoñer que a primeira palabra que buscou, despois de preguntar a capital de Francia, vai ser París e, non obstante,  é «de», por exemplo.

OF: Si, a IA debe aprender non só a información correcta, «a capital de Francia é París», senón que ademais que a construción da frase que che ofrece sexa apropiada, sexa adecuada para que o que escriba teña coherencia. Cando escribe un humano, escribe desa forma, escribe frases construídas correctamente, o modelo o que aprende é iso, que o que ten que construír son frases. Entón aprende que o máis probable se cadra diante desta palabra, máis que un suxeito, pois é un pronome, porque é máis adecuado para ese contexto.

JG: Calquera que utilizase a IA con algunha frecuencia, darase conta de que con cada interactuación mellora e aprende moi rápido sobre o que o usuario lle está pedindo, xa sexa facer unha presentación ou unha nota de blog sobre algún asunto, busca e autocorríxese con moita eficacia.

OF: Si, porque realmente no proceso de adestramento dos modelos o que fan é introducir fases de refinamento. É dicir, non só se trata de que o modelo aprenda a falar, senón de que o modelo logo responda a cousas que son apropiadas e adecuadas, non? Entón, no momento en que ti lle dis, a ver, é que o que me dixeches non é totalmente correcto, o que intenta é, con base na información que ti lle proporcionaches polo sistema, mellorar a resposta de forma que máis adiante, cando outra persoa pregunte polo mesmo, xa chegamos a unha resposta máis correcta porque viu que ese usuario lle preguntou sobre o mesmo tema e non foi unha resposta adecuada. Agora, como interactuou moito tempo con humanos serviu tamén para ir refinando eses modelos.

JG: Xa sei que a pregunta é un pouco tópica, pero non me resisto a facela, tomará algún día consciencia de si mesma a IA? Asistirá a humanidade a un efecto, digamos, HAL 9000?

OF: É unha pregunta moi interesante, pero iso é complicado de responder. Eu creo que hoxe en día estamos moi lonxe dese momento porque os modelos ao final non teñen sentido común, non son conscientes da súa existencia nin tampouco do que están a facer. Basicamente é un modelo que é capaz de dar uns datos, dáme unha resposta adecuada e ademais cunha linguaxe correcta. É verdade que existen algunhas liñas de investigación sobre iso, pero está a traballarse máis, sobre todo, na parte das empresas, en crear produtos que sexan útiles para o usuario. Eu creo que estamos aínda moi lonxe.

JG: A terceira parte da conferencia foi moi esclarecedora para nós. Faláchesnos da potencialidade que ten a intelixencia artificial para o mundo da educación. Hai que falar seguramente de oportunidades e de riscos tamén, sobre todo no que respecta ao xa coñecido asunto da entrega de traballos elaborados por IA por parte do alumnado, por exemplo. E, non obstante, o campo que se abre aquí é inmenso e moi prometedor.

OF: Si, é verdade. Eu creo que este tipo de ferramentas o que nos vai permitir é, sobre todo, mellorar moito a produtividade. É dicir, non creo que nos debería substituír nese sentido, pero si son ferramentas moi útiles para que unha persoa cun uso correcto da ferramenta poida mellorar o seu traballo. Melloralo en canto á calidade do que presenta mellor, mesmo á rapidez do que presenta. Se é capaz de resumir todo un texto, é capaz de axilizar un pouco o traballo, pois pódelo facer en forma máis rápida e máis eficaz. Pero claro, moitas veces, por exemplo, no ámbito educativo, os estudantes hoxe en día, en todos os niveis educativos, están a utilizar este tipo de ferramentas de forma masiva, por exemplo, para facer traballos académicos.

JG: É un tema complexo, non obstante, logo as bondades son evidentes.

OF: En fin, aí eu creo que o bo sería que o profesor fose consciente das capacidades das ferramentas e que as incorporase mellor como parte do seu traballo docente, porque a xente vaino utilizar, sabe que o vai utilizar, entón pois, se o vai utilizar, que o utilice ben. Por exemplo, resulta común que un estudante lle solicite un traballo á IA para logo entregalo sen apenas repasalo. Entón, claro, cando llo entrega ao profesor, que pode suceder? Que o traballo estea moi ben escrito, que sexa sintacticamente correcto, pero tamén que conteña moitas inexactitudes ou erros. Eu como estudante teño que revisar este texto, contrastalo con outras fontes, co que me di o profesor, e ese sería o traballo que debería facer o estudante. E se cadra niso é onde o profesor tería que dicirlle ao estudante: a ver, imos utilizar esta ferramenta, pero logo tes que facer este traballo porque é unha mera ferramenta, existe, pódela utilizar, entón tes que incorporala.

JG: Ocórreseme que, en realidade, estamos ante a posibilidade de utilizar esa «trampa pedagóxica» que en ocasións usamos: «podedes utilizar os apuntamentos para facer o exame», obviamente, ese exame terá a suficiente complexidade para soportar esa vantaxe.

OF: Claro, o nivel de esixencia cambia radicalmente, co cal tes que ter un nivel de excelencia aínda maior. Se lembramos, pasou un pouco o mesmo coa aparición da calculadora electrónica, en principio moi deostada polos profesores, hoxe en día unha ferramenta útil máis. Por outra banda, cara ao profesor, a IA permite axilizar moito traballo, sobre todo administrativo, de tipo burocrático, non?

JG: Si, atendendo a unha das máis claras demandas do profesorado, axilizar o traballo burocrático.

OF: Así é, ao final a IA o que fai é simplificar o manexo de datos, diso se trata. Hai centos ou miles de posibilidades, por exemplo, proporcionarlle documentación previamente filtrada para que traballe con eses datos que lle achegas. Iso facilita moitísimo a tarefa.

JG: Outro aspecto que hai que ter en conta sobre a IA son os seus aspectos éticos, sobre todo cando se traballa con menores

OF: Funcionan os controis éticos? É difícil de saber porque moitas veces toda a información que existe dos modelos non é pública, é dicir, hoxe en día hai unha gran competencia entre empresas polo desenvolvemento dese tipo de tecnoloxía. Entón, ao final son moi remisas a publicar datos sobre os modelos. Hoxe en día sabemos pouco sobre isto, aínda que se pode entender que os controis seguen a liña dos xa existentes en Internet, control parental incluído. Isto explica que ningunha IA vai responder se lle preguntas como se fai unha bomba.  Cousa diferente é que se lle pregunte por partes, aí a cousa xa non é tan evidente. O que fan as empresas é poñer, digamos, esas devasas a certas palabras clave. Outra cousa é que logo os humanos, que somos tamén moi intelixentes, poidamos intentar bordear esas barreiras e ás veces sucedeu.

Paralelamente vanse desenvolvido axencias, nisto Galicia é pioneira, como sabes, dedicadas a establecer normativa ao respecto, polo menos dentro do marco da UE. Así que temos unha lexislación que nos garante que a cidadanía europea vai estar protexida nese sentido. Pode haber outros países como A China, Rusia ou Os Estados Unidos que funcionen doutra maneira, sen dúbida.

JG: Unha última pregunta xa de carácter de curiosidade persoal. Esa capacidade que ten a IA de fabricar citas académicas extraordinarias, pero falsas. É unha cousa que me chamou sempre moito a atención.

OF: Si, si, porque ao final, como comentabamos antes, un modelo de linguaxe está deseñado para responderche correctamente á túa pregunta. Se ti lle preguntas por unha cita, está deseñado para crear unha cita e que ademais a cita cumpra coa normativa en citas que temos.

JG: Un risco evidente para a saúde dos traballos de fin de grao ou de fin de máster…

OF: Claro, se os estudantes utilizan de forma sistemática este tipo de ferramentas e ao final lles xeran unhas citas que eles non contrastan... Aí está o perigo, o normal é que se contraste a solución que nos ofreceu a IA.

JG: Óscar, falemos finalmente de futuro.

OF: Pois creo que será un futuro motivador e interesante, sabemos que polo camiño haberá deficiencias, pero en xeral as posibilidades que se abriron son inmensas. Imos poder traballar moito mellor con capacidade de dominio e manexo de grandes cantidades de datos. Como incorporamos esas ferramentas? Para mellorar as nosas capacidades, as nosas competencias, a nosa produtividade como sociedade, como persoas. Evitando, iso si, esa certa indolencia dixital que pretende encomendarlles todo ás máquinas. O discorrer humano sempre será necesario. Manexar a ferramenta, de acordo, pero o exercicio previo de saber manexalas creo que é irrenunciable, porque ao final nós tamén aprendemos por imitación e por repetición. Que nos vai dar? Eu creo que hai moitas alegrías en campos que tanto o necesitan, como a sanidade ou a educación.

JG: Resta agradecerche moitísimo que colaborases coa revista tratando un elemento que vai ser tan esencial na nosa vida cotiá. Así que, moitísimas grazas, Óscar, e ata outra ocasión.