Discuten inteligencia artificial y el uso ético

Benjamín Pacheco/EL VIGÍA

bpacheco@elvigia.net | Ensenada, B. C.

Las consecuencias de lo que hace un algoritmo y quien debe ser juzgado en caso de que ocurre alguna falla o afectación, fueron analizadas en el panel de discusión “IA y ética”, organizado el miércoles pasado por el Centro de Investigación Científica y de Educación Superior de Ensenada (Cicese).

El encuentro estuvo programado en el Centro Estatal de las Artes (Ceart) Ensenada, con la participación de Aníbal Monasterio (Universidad del País Vasco); Federico Marulanda (Columbia U./Umsnh); Ricardo Corral (Suggestic) y Jean-Bernard Hayet (Cimat), con la moderación a cargo de Edgar Chávez.

Chávez refirió que el motivo del panel se relaciona con inquietudes como las consecuencias de lo que hace un algoritmo, pues se entiende que un agente artificial no es un agente moral.

“No se puede juzgar y condenar a un algoritmo en abstracto. No tiene sentido desde el punto de vista de la ley que uno quiera meter a la cárcel a una abstracción, a una computadora, del mismo modo que no se puede juzgar a una sustancia química de tener una propiedad positiva o negativa para la vida.

“Algo puede ser veneno, puede ser medicina, pero la sustancia en sí no es moralmente responsable. En el caso de una cosa inerte comparte responsabilidad quien la diseña y quien la usa. A diferencia de una sustancia química, un algoritmo puede tomar decisiones que pueden impactar la vida de las personas”, explicó.

Diversos puntos de vista

Sobre esto, los participantes compartieron distintos puntos de vista sobre a quien, en estos casos, se le debería fincar responsabilidades.

Algunas reflexiones fueron: la responsabilidad ética de quienes se encargan de recolectar datos y los que usan dichos datos; en caso de falla en un vehículo sin conductor y se atropella a alguien ¿es responsabilidad de los algoritmos o de quien los diseña?, ¿O es más bien de la compañía o del presidente o los empleados?, ¿Se debe juzgar a un programador o a toda la cadena intermediaria de ingenieros que participan?.

También que la responsabilidad compartida suele difuminarse, a desaparecer entre la masa, como el caso del calentamiento global, pues no habrá una persona en específico que será juzgada por eso.

Y otro punto fue la importancia de distinguir entre la responsabilidad jurídica empresarial y la responsabilidad moral individual, que pueden darse en estos casos, sobre ingenieros o el equipo participante.