Confianza, información y la inteligencia artificial

La palabra confianza deriva de confiar que se compone del prefijo, con-, que significa todo, junto que se relaciona con la raíz indoeuropea “kom-” (junto, cerca de, común), la raíz, -fi-, del verbo fiar, del latín “fidere” (confiar) y este de fides (lealtad, fe, confianza). Se vincula a una raíz "bheidh" (asesorar, confiar, persuadir). Por último, el sufijo, -anza, como en fianza, esperanza y es equivalente a -ancia/-encia, del latín "antia/-entia", compuesto de dos sufijos -nt- (agente) y -ia (cualidad). Entonces se entiende como la cualidad del que tiene total seguridad de algo o alguien. Por otro lado, la palabra información deriva del sustantivo latino "informatio" y se compone del prefijo, in-, que quiere decir hacia adentro, la palabra forma que nos remite a figura o imagen, más el sufijo, -ción, que designa a una acción u efecto. Por lo tanto, se entiende como la acción y efecto de dar una noticia, novedad, conocimiento, idea, y demás sinónimos.
En la inteligencia artificial (IA) la idea de información no está bien definida y esto se puede entender a partir de las definiciones presentadas. Las computadoras al igual que los seres vivos manipulan las ideas, aunque de modos diametralmente diferentes. Aunque una semejanza la podemos observar en la confianza que se le otorga a la información que se adquiere tanto en los sistemas naturales como artificiales. Nuestra cosmovisión puede verse afectada tanto en lo emocional como en lo racional. A primera vista podemos pensar que usamos la razón cuando tratamos con la información y no así la emoción debido a que es natural esto por la forma en que están construidas las máquinas. Sin embargo, aun en las ciencias de la información la verdad sigue un principio filosófico de unicidad y lo que usualmente se calcula es el valor más probable o el error verdadero. De esta forma es necesario definir como sabemos en qué fuentes de información podemos confiar. Esto mismo se aplica a nosotros como seres inteligentes.
De esta reflexión resulta la idea de desinformación que produce la pérdida de confianza. En la IA los actuales algoritmos computacionales en los que se basan los productos de moda son susceptibles de ser atacados mediante estrategias que modifican el resultado esperado. Así surge una problemática que puede llegar a ser catastrófica por lo que es un tema de investigación de punta. La manipulación de la información traducida en opinión, criterio, veredicto, parecer, juicio, reputación, dictamen, prestigio, sentir, tiene grandes repercusiones desde el punto de vista de la calidad. En el siglo presente se está perdiendo la brújula ante la desinformación porque aquello delante de nuestros sentidos empieza a no ser creíble ahogándonos en un mar de puntos de vista diferentes.
Hoy en día proliferan las falsedades al socavarse la confianza en las personas e instituciones que buscan la verdad. Incluso la existencia misma de la verdad se pone en duda. La gente ya no sabe que creer ni porque motivos podemos determinar que es verdad. Tenemos una carencia de fe y lealtad ante los demás y nosotros mismos.
En la IA tanto como en nuestras creencias observamos como la falsedad puede llegar al deseo de causar daño. Tenemos errores no intencionales que hacen que los resultados no sean exactos ni precisos, pero también aquel producido mediante acciones deliberadas o con tendencia, los cuales surgen de la manipulación y propaganda, en lo que puede llegar hasta la conocida guerra sucia donde la verdad se exagera y se tuerce para engañar y causar un daño.
Un tema reflejo de la falta de robustez en las soluciones tecnológicas basadas en las redes neuronales preocupa sobremanera a las compañías informáticas, ya que sus métodos pueden ser manipulados con pequeñas modificaciones en las bases de datos produciendo resultados erróneos. Una vía de solución se estudia en el CICESE mediante métodos basados en cómputo simbólico que en algunos círculos se conoce como IA clásica. Como moral podemos decir que todo aquello derivado del conocimiento base nos remonta a los conceptos para proteger la verdad en su sentido universal.

*Investigador Titular D, del Cicese   olague@cicese.mx