El peligro de los loros estocásticos

Timnit Gebru, ingeniera de Stanford de origen etíope especializada en inteligencia artificial, trabajaba como jefa de ética de IA en Google hace dos años y medio. Antes de que la IA estuviese en boca de todos, la experta ya alertó de los riesgos que podía haber detrás de los grandes modelos de lenguaje (LLM) en un paper titulado 'El peligro de los loros estocásticos'. Los loros estocásticos son programas que combinan palabras según un cálculo de probabilidades de lo que ya se encuentra en la red. El programa no entiende lo que dice, solo ajusta el resultado a lo que ya se conoce en la red.

En el informe, la exempleada de Google hablaba de los problemas de sesgos, financieros y medioambientales que la IA podía traer si se instauraba de la forma en la que lo está comenzando a hacer en los últimos meses. Además, recomendaba que, ante el avance de IA que iba a llegar, debía exigirse una mayor regulación. La despidieron.

El problema de los "loros estocásticos" y de trabajar en empresas es a nivel ético el mismo. Una inteligencia artificial no es un agente ético ya que no es responsable de su manera de actuar. En las empresas, los empleados no exponen su punto de vista si ello conlleva la perdida de empleo. Su condición subalterna les resta independencia ética.

Timnit Gebru analiza la falta de ética en la inteligencia artificial en Congreso Futuro 2022

Publicar por publicar es ser un loro estocástico

Fernando Broncano, catedrático de Lógica y Filosofía de la Ciencia en la Universidad Carlos III de Madrid, publicó un artículo "El efecto venenoso de los "rankings" en la investigación" en el que concluye que, cito textual, "la perversión que ha generado el sistema mundial de investigación: por un lado, ha producido la cultura de la publicación por la publicación. En segundo lugar, ha producido la concentración y el oligopolio de las publicaciones en unas cuantas empresas que acogen a su vez prácticas internas de las revistas para subir en los escalones. En tercer y más nefasto puesto está la perversión de las gerencias de las universidades convertidas en empresas de servicios de títulos cuyo valor de mercado es el del puesto en el ranking". Subrayo lo de la cultura de la publicación por la publicación porque nos convierte a los investigadores en loros estocásticos. 

Immanuel Kant en su obra "El conflicto de las facultades" nos advierte de la necesidad de que el profesor tenga libertad de cátedra para que su cátedra sea ética y no sometida a poderes absolutistas. Hoy en día, el sistema académico basado en "publica o muere" ha creado un sin número de científicos zombies cuya máxima preocupación es convertirse en eficientes loros estocásticos. 

Una persona se convierte en un individuo cuando adquiere responsabilidad ética y su comportamiento es consecuente con ella. Las IAs empezaron a ser populares este año, 2023. La publicación por la publicación que hasta ahora ha dominado la carrera científica dejará de ser relevante porque tendremos robots que podrán generar papers científicos a una mayor velocidad que la de cualquier humano. Lo realmente valioso será la responsabilidad ética en la investigación y las acciones consecuentes.