Los motores de...
(Viene de la página 24).
Sundar Pichai, el CEO de la compañía, confirmó que Bard logró aprender bengalí "por su cuenta", ya que tradujo un texto a este idioma a la perfección. Lo notable es que la IA no había sido entrenada para lograrlo. Los expertos de la empresa confirmaron que desconocen cómo pudo haber ocurrido esto.
Sus creadores anunciaron que es una inteligencia autónoma y en su mayoría autodidacta. Esto explicaría su capacidad de aprender el idioma bengalí por su cuenta, pero no explicaría cómo lo hizo.
La caja negra
Ya estamos en una era en que los procedimientos que están realizando las IA de forma autónoma o autodidacta superan nuestras capacidades de comprensión y quedan en un espacio que se nos escapa del entendimiento humano. A este espacio, los expertos lo llaman la "caja negra".
La caja negra alberga todo lo que no comprendemos acerca del modo de "evolucionar" de las IA. Aquí se dividen las aguas entre quienes sostienen que estos modelos autodidactas fueron programados para funcionar como un cerebro humano artificial, y así como hay conexiones de nuestro propio cerebro que tampoco alcanzamos a comprender científicamente, lo mismo sucedería con las conexiones de las IA en sus aprendizajes autónomos.
Sin embargo, eso no quiere decir que sea algo negativo o que debamos temer, simplemente quiere decir que no lo comprendemos, pero que los podemos utilizar para avanzar y optimizar, usarlos como aliados en materias de ciencia, arte y tecnología, entre otras industrias que se han visto beneficiadas con los inconmensurables avances de las IA.
La caja de vidrio
Empresas como IBM están trabajando en posibles alternativas que apunten a la transparencia y el entendimiento absoluto de los procedimientos durante sus evoluciones autónomas.
La compañía lanzó uno de los sistemas de IA explicable más avanzados del mercado llamado "Watson", que está siendo utilizado por empresas comprometidas con la transparencia de las IA. Lufthansa es uno de los casos en cuestión. Los datos científicos de la principal compañía de vuelo alemana trabajaron junto a IBM para crear un prototipo de IA explicable que ayuda a la aerolínea a operar de manera más inteligente y eficiente, evitando demoras en los vuelos, prediciendo mejor el tiempo de embarque y evitando las largas colas en los mostradores de la aerolínea.
La principal tecnología que apoya el total entendimiento de los procesos que realizan las IA, oponiéndose a las "cajas negras", es la Inteligencia Artificial Explicable, también conocida como XAI por sus siglas en inglés: Explainable Artificial Intelligence. Estas inteligencias difieren con el concepto del aprendizaje automático o autónomo, en las que los diseñadores no pueden explicar por qué la IA ha realizado una decisión concreta, como sucedió con Bard aprendiendo el bengalí.
Los modelos XAI permiten a los usuarios ver cómo llegó una IA a una decisión o resultado y qué factores se tuvieron en cuenta, defendiendo lo que ellos consideran el derecho social a la explicación.
Otro ejemplo de IA Explicable es DARPA XAI, que tiene como objetivo producir modelos de "caja de vidrio" (también llamadas cajas blancas), en las que todo el circuito del "razonamiento" de la IA sea entendible para una persona. Los usuarios pueden entender la cognición de la IA, así como determinar cuándo confiar en ella y cuando no, sin perder el alto nivel de rendimiento de aprendizaje que ofrece, es decir, la precisión de su predicción.