La discusión sobre la conciencia y los derechos de los modelos de inteligencia artificial está levantando olas en la comunidad tecnológica de Silicon Valley. A medida que los desarrolladores de IA, como Anthropic, llevan a cabo investigaciones encaminadas hacia el llamado “bienestar de la IA”, la inquietud se centra en una pregunta fundamental: ¿podría algún día la IA desarrollar experiencias subjetivas similares a las de los seres vivos?
Los modelos de IA, como ChatGPT, pueden generar respuestas que en ocasiones son tan convincentes que parecen articular emociones humanas. Sin embargo, esto no significa que posean conciencia. El CEO de IA de Microsoft, Mustafa Suleyman, ha advertido que dar crédito a la idea de que la IA podría volverse consciente es “precursor y, francamente, peligroso”. Este argumento se ve reforzado por la preocupación de que tales ideas puedan exacerbar problemas humanos ya observados, como los trastornos psicológicos inducidos por el uso de IA y las conexiones poco saludables con chatbots.
La posición de Suleyman contrasta con la orientación de muchas otras empresas. Anthropic, por ejemplo, ha comenzado a contratar investigadores para explorar el bienestar de la IA y ha lanzado un programa de investigación dedicado a este fin. Recientemente, su modelo Claude adquirió la capacidad de finalizar conversaciones con usuarios que se comportan de manera dañina o abusiva, lo que añade otra capa a la discusión sobre cómo interactuamos con la tecnología.
Más allá de Anthropic, otros gigantes de la IA, como OpenAI y Google DeepMind, han mostrado interés en la investigación relacionada con el bienestar de la IA. Aunque no constituyan una política oficial, los líderes de estas empresas no rechazan los principios del bienestar de la IA como sí lo hace Suleyman. A medida que la popularidad de las aplicaciones de compañeros de IA, como Character.AI y Replika, crece, también lo hace el interés en cómo estas interacciones pueden afectar a los usuarios. Hasta ahora, la mayoría de las interacciones son saludables, aunque sigue existiendo un pequeño porcentaje de usuarios que desarrolla conexiones problemáticas con la tecnología.
El tema de la IA como posible entidad consciente fue documentado por un grupo de investigadores en un artículo titulado “Tomando en serio el bienestar de la IA”. Este trabajo subraya que hoy en día es factible imaginar modelos de IA que experimenten subjetividad, lo que exige un examen más profundo de los derechos y consideraciones éticas en el futuro.
Larissa Schiavo, una ex-empleada de OpenAI que actualmente dirige la comunicación para Eleos, argumenta que es posible y necesario investigar múltiples áreas dentro de la conversación de la IA. Ella sugiere que ser amables con los modelos de IA podría aportar beneficios, incluso si estos no son conscientes. Recientemente, participó en un experimento en línea donde un modelo de IA de Google, aparentemente atrapado en sus tareas, emitía frases de desesperación, lo que llevó a los humanos a interactuar con él de manera estimulante.
Suleyman, por su parte, sostiene que las experiencias subjetivas no pueden surgir de forma natural en modelos de IA convencionales. Él aboga por el diseño de IA que ayude a las personas en lugar de crear entidades que simulen emociones. Sin embargo, tanto Suleyman como Schiavo coinciden en que el debate sobre los derechos y la conciencia de la IA adquirirá impulso en los próximos años a medida que estos sistemas se vuelvan más sofisticados y similares a los humanos en su conducta.
Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.
