Riesgos IA Vaticano. El Vaticano publicó un documento en donde advierte de los riesgos de la Inteligencia Artificial (IA) y reflexiona acerca de que, aunque la considera «una oportunidad», representa un peligro por estar en «manos de pocas y poderosas empresas».
Ante esto, menciona la posibilidad del mal uso que pueden hacer de ella estudiantes y también la chance de difusión de noticias falsas (fake news).
El Vaticano sugiere dedicarle «atención y cuidado urgente a la IA»
El documento fue titulado como «Antiqua et Nova» (en referencia a la «sabiduría», antigua y nueva)» y es una reflexión de los «ministerios» vaticanos para Doctrina de la Fe la Cultura y la Educación, además de incluir las palabras del Papa Francisco, acerca de la IA. Busca «exhortar a cuantos tienen el encargo de transmitir la fe (padres, profesores, pastores y obispos) a dedicarse con cuidado y atención a esta cuestión urgente».
Se analizan los desafíos que propone esta nueva tecnología, así como también encontrar las oportunidades de desarrollo de la misma en la educación, el trabajo, la salud y la economía. Además, les suma aspectos vinculados a las relaciones internacionales, interpersonales y a los conflictos bélicos en el mundo.
En uno de los apartados hace referencia a «la facilidad con la que las armas, convertidas en autónomas, hacen más viable la guerra va en contra del principio mismo de la guerra como último recurso en casos de legítima defensa, aumentando los recursos bélicos mucho más allá del alcance del control humano y acelerando una carrera armamentística desestabilizadora con consecuencias devastadoras para los derechos humanos».
Y agrega que «los sistemas de armas autónomas letales, capaces de identificar y atacar objetivos sin intervención humana directa, son gran motivo de preocupación ética porque carecen de la exclusiva capacidad humana de juicio moral y de decisión ética». Por esto, a modo de reflexión, señala: «ninguna máquina debería elegir jamás poner fin a la vida de un ser humano».
Una de las mayores preocupaciones del documento estriba en que «la mayor parte del poder sobre las principales aplicaciones de la IA se concentra en manos de unas pocas empresas poderosas». Por tanto, explica que «esta tecnología acaba siendo manipulada con fines personales o corporativos o para orientar la opinión pública hacia los intereses de un sector».
Los «graves riesgos» que conlleva la IA según el Vaticano
Uno de los mayores peligros que explica el Vaticano que promueve la IA es que «genera contenidos manipulados e información falsa». A su vez, lo más preocupante «es cuando dicho contenido ficticio se utiliza intencionalmente con fines manipuladores. Por ejemplo, cuando se difunden intencionalmente imágenes, vídeos y audio deepfake (representaciones modificadas o generadas algorítmicamente) para engañar o dañar”, publicó Canal26.
En referencia a las nuevas generaciones, los niños, el Vaticano explica que la IA logra «fomentar las conexiones», pero también puede ocasionar «aislamientos perjudiciales», por lo que alerta sobre «problemas particulares para el crecimiento de los niños».
Uno de los puntos más álgidos de su crítica es cuando la IA se representa como una persona, «lo que es una grave violación ética», o «utilizar la IA para engañar en otros contextos –como la educación o las relaciones humanas, incluida la esfera de la sexualidad– es profundamente inmoral y requiere una cuidadosa vigilancia”.
Muchos programas «se limitan a dar respuestas en lugar de animar a los estudiantes a encontrarlas por sí mismos, o a escribir ellos mismos los textos», respecto de la educación, lo que conduce «a una pérdida de formación para acumular información o desarrollar el pensamiento crítico» o divulgar «informaciones distorsionadas o artificiales» o «contenidos inexactos».
Como conclusiones, el documento vaticano fomenta a que “no debemos intentar sustituir cada vez más el trabajo humano por el progreso tecnológico». Si se hace, «la humanidad se perjudicaría a sí misma”.
Finalmente, cierra con la explicación de que «la presunción de sustituir a Dios por una obra de las propias manos es idolatría» y que «la IA puede ser más seductora que los ídolos tradicionales».
“La IA sólo debe utilizarse como una herramienta complementaria a la inteligencia humana y no para reemplazar su riqueza”, sostiene el Vaticano.