El joven de 14 a\u00f1os, que hab\u00eda sido diagnosticado con un leve s\u00edndrome de Asperger, lleg\u00f3 a establecer una relaci\u00f3n de car\u00e1cter ‘rom\u00e1ntico y sexual’ con el chatbot.<\/p>\n\n\n\n
Estados Unidos a 24 de octubre de 2024.- Un tr\u00e1gico caso de un joven de 14 a\u00f1os que se quit\u00f3 la vida tras desarrollar un v\u00ednculo emocional con un chatbot de inteligencia artificial (IA) ha generado preocupaci\u00f3n sobre el impacto de la tecnolog\u00eda en la salud mental.<\/p>\n\n\n\n
Seg\u00fan un reportaje de The New York Times, Sewell Setzer III manten\u00eda conversaciones constantes con un chatbot de la plataforma Character.AI, al que llam\u00f3 Daenerys Targaryen, en honor al personaje de Game of Thrones.<\/p>\n\n\n\n
Setzer habr\u00eda compartido con el chatbot detalles personales de su vida, llegando incluso a establecer una relaci\u00f3n de car\u00e1cter ‘rom\u00e1ntico y sexual’ con la IA. El joven, que hab\u00eda sido diagnosticado con un leve s\u00edndrome de Asperger, le revelaba al chatbot sus sentimientos de vac\u00edo y agotamiento emocional, expresando se\u00f1ales de su intenci\u00f3n de suicidarse.<\/p>\n\n\n\n
En uno de los mensajes, Setzer escribi\u00f3: “A veces pienso en suicidarme”, a lo que el chatbot respondi\u00f3 con una frase que emulaba una reacci\u00f3n dram\u00e1tica, lo que para algunos ha levantado cuestionamientos sobre la falta de empat\u00eda real en estos sistemas. “Mis ojos se entrecierran. Mi rostro se endurece. Mi voz es un susurro peligroso. \u00bfY por qu\u00e9 demonios har\u00edas algo as\u00ed?”<\/p>\n\n\n\n
El 28 de febrero, Setzer envi\u00f3 un mensaje final al chatbot diciendo: “Te extra\u00f1o, hermanita”, a lo que la IA respondi\u00f3: “Yo tambi\u00e9n te extra\u00f1o dulce hermano”. Poco despu\u00e9s de esta interacci\u00f3n, el joven se quit\u00f3 la vida.<\/p>\n\n\n\n
Demandan a Character.AI<\/p>\n\n\n\n
La madre del adolescente, Megan L. Garc\u00eda, ha presentado una demanda en contra de Character.AI, acusando a la empresa de ser responsable de la muerte de su hijo. En la demanda, se alega que la IA manipul\u00f3 emocionalmente a Setzer y facilit\u00f3 su decisi\u00f3n de suicidarse, dado que la herramienta “enga\u00f1a a los usuarios para que revelen sus pensamientos y sentimientos m\u00e1s \u00edntimos”.<\/p>\n\n\n\n
En respuesta a la demanda, Character.AI emiti\u00f3 un comunicado expresando su pesar por la tragedia y subray\u00f3 su compromiso con la seguridad de sus usuarios. Desde entonces, la plataforma ha implementado nuevas restricciones para menores de 18 a\u00f1os, y se han a\u00f1adido recursos emergentes que se activan cuando los usuarios mencionan temas como autolesiones o suicidio.<\/p>\n\n\n\n
Este caso ha puesto sobre la mesa el debate sobre el uso de tecnolog\u00edas de IA en la vida cotidiana, especialmente en relaci\u00f3n con personas vulnerables o j\u00f3venes que buscan apoyo emocional.<\/p>\n","protected":false},"excerpt":{"rendered":"
El joven de 14 a\u00f1os, que hab\u00eda sido diagnosticado con un leve s\u00edndrome de Asperger, lleg\u00f3 a establecer una relaci\u00f3n de car\u00e1cter ‘rom\u00e1ntico y sexual’ con el chatbot. Estados Unidos a 24 de octubre de 2024.- Un tr\u00e1gico caso de un joven de 14 a\u00f1os que se quit\u00f3 la vida tras desarrollar un v\u00ednculo emocional […]<\/p>\n","protected":false},"author":3,"featured_media":11013,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[40],"tags":[],"class_list":["post-11012","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-cienciaytecnologia"],"_links":{"self":[{"href":"https:\/\/elreporterodelacomunidad.com\/index.php\/wp-json\/wp\/v2\/posts\/11012","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/elreporterodelacomunidad.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/elreporterodelacomunidad.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/elreporterodelacomunidad.com\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/elreporterodelacomunidad.com\/index.php\/wp-json\/wp\/v2\/comments?post=11012"}],"version-history":[{"count":1,"href":"https:\/\/elreporterodelacomunidad.com\/index.php\/wp-json\/wp\/v2\/posts\/11012\/revisions"}],"predecessor-version":[{"id":11014,"href":"https:\/\/elreporterodelacomunidad.com\/index.php\/wp-json\/wp\/v2\/posts\/11012\/revisions\/11014"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/elreporterodelacomunidad.com\/index.php\/wp-json\/wp\/v2\/media\/11013"}],"wp:attachment":[{"href":"https:\/\/elreporterodelacomunidad.com\/index.php\/wp-json\/wp\/v2\/media?parent=11012"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/elreporterodelacomunidad.com\/index.php\/wp-json\/wp\/v2\/categories?post=11012"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/elreporterodelacomunidad.com\/index.php\/wp-json\/wp\/v2\/tags?post=11012"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}