(CNN) Menos de horas después de que Snapchat lanzara el chatbot My AI para todos los usuarios la semana pasada, Lyndsi Lee, una madre de East Prairie, Missouri, le dijo a su hija de 13 años que se mantuviera alejada de la función.
“Es una solución temporal hasta que sepa más al respecto y pueda establecer límites y pautas saludables”, dijo Lee, quien trabaja en una empresa de software. Él está preocupado Cómo mi IA se presenta en Snapchat a usuarios jóvenes como su hija.
La función es proporcionada por la herramienta de chatbot de IA viral ChatGPT y, al igual que ChatGPT, puede ofrecer recomendaciones, responder preguntas y chatear con los usuarios. Pero la versión de Snapchat tiene algunas diferencias clave: los usuarios pueden personalizar el chatbot nombre, diseñe un avatar de Bitmoji personalizado para él y llévelo a las conversaciones con amigos.
El efecto neto es que una conversación con el chatbot de Snapchat puede sentirse menos transaccional que visitar el sitio web de ChatGPT. También puede no estar claro que está hablando con una computadora.
“No creo que esté listo para saber cómo enseñarle a mi hijo a diferenciar emocionalmente entre humanos y máquinas cuando se ven fundamentalmente iguales desde su perspectiva”, dijo Lee. “Creo que la línea es muy clara [Snapchat] superar.”
La nueva herramienta enfrenta reacciones violentas no solo de los padres sino también de algunos Snapchatters usuarios que bombardean la aplicación con malas críticas en la tienda de aplicaciones y críticas en las redes sociales relacionadas con problemas de privacidad, chat “espeluznante” y la incapacidad de eliminar la función de su feed de chat a menos que paguen una suscripción premium.
Si bien algunos pueden encontrar valor en la herramienta, las reacciones mixtas apuntan a los riesgos que enfrentan las empresas cuando introducen nueva tecnología de inteligencia artificial generativa en sus productos, especialmente productos como Snapchat con usuarios más jóvenes.
Snapchat fue uno de los primeros socios de lanzamiento de OpenAI acceso abierto a ChatGPT para empresas de terceros, y se espera que le sigan muchas más. Casi de la noche a la mañana, Snapchat ha obligado a algunas familias y legisladores a prepararse para preguntas que podrían haber parecido teóricas hace solo unos meses.
dentro de algo carta El mes pasado, a los directores ejecutivos de Snap y otras compañías tecnológicas, semanas después de que se lanzara My AI a los clientes de suscripción de Snap, el senador demócrata Michael Bennet expresó su preocupación por la interacción del chatbot con los usuarios más jóvenes. En particular, citó informes de que puede ofrecer a los niños sugerencias sobre cómo mentirles a sus padres.
“Estos ejemplos serían preocupantes para cualquier plataforma de redes sociales, pero son particularmente preocupantes para Snapchat, que es utilizado por casi el 60 por ciento de los jóvenes estadounidenses”, escribió Bennet. “Aunque Snap admite que My AI es ‘experimental’, se apresuró a involucrar a los niños y jóvenes estadounidenses en el experimento social”.
En una publicación de blog la semana pasada, la compañía dijo: “Mi IA está lejos de ser perfecta, pero hemos progresado mucho”.
Reacción negativa del usuario
En los días transcurridos desde el lanzamiento oficial de Snapchat, los usuarios de Snapchat han expresado sus preocupaciones. Un usuario calificó su interacción de “espeluznante” cuando dijo que mentía sobre no saber dónde se encontraba el usuario. Cuando el usuario moderó la conversación, dijo que el chatbot reveló con precisión que vivía en Colorado.
En otro video de TikTok con más de 1,5 millones de visitas, un usuario llamado Ariel grabó una canción escrita por My AI con una introducción, coro y acordes de piano sobre cómo es ser un chatbot. Cuando devolvió la canción grabada, dijo que el chatbot negó su participación en la respuesta: “Lo siento, pero como modelo de IA, no escribo canciones”. Ariel calificó el intercambio de “espeluznante”.
Otros usuarios expresaron su preocupación sobre cómo la herramienta entiende, interactúa y recopila datos de las fotos. “Tomé una foto… y decía ‘bonitos zapatos’ y pregunté quiénes eran las personas [were] en la foto”, escribió un usuario de Snapchat en Facebook.
Snapchat le dijo a CNN que continúa mejorando My AI en función de los comentarios de la comunidad y está trabajando para crear más medidas de seguridad para mantener seguros a sus usuarios. La compañía también dijo que, al igual que sus otras herramientas, los usuarios no tienen que interactuar con My AI si no lo desean.
no es posible sin embargo, eliminará My AI de las fuentes de chat a menos que el usuario se suscriba. servicio premium mensual, Snapchat+. Algunos adolescentes dicen que han decidido pagar la tarifa de Snapchat+ de $3.99 para apagar la herramienta antes de cancelar el servicio de inmediato.
Pero no a todos los usuarios les gusta la función.
Un usuario escribió en Facebook que le pidió ayuda con la tarea a My AI. “Hace todas las preguntas correctas”. Otro notó que se apoyaba en él en busca de consuelo y consejo. “¡Me encanta mi pequeño bolsillo, bebé!” el escribio. “Puedes cambiar Bitmoji [avatar] y, sorprendentemente, ofrece muy buenos consejos para algunas situaciones de la vida real. … Me encanta el apoyo que da”.
Un censo temprano de cómo los adolescentes usan chatbots
ChatGPT capacitado en grandes bases de datos en línea ha venido antes bajo fuego difundir información inexacta, responder a los usuarios de maneras que puedan resultar inapropiadas y permitir que los estudiantes hagan trampa. Pero la integración de Snapchat en la herramienta podría exacerbar algunos de estos problemas y agregar otros nuevos.
Alexandra Hamlet, psicóloga clínica de Nueva York, dijo que los padres de algunos de sus pacientes han expresado su preocupación sobre cómo sus hijos adolescentes podrían interactuar con la herramienta de Snapchat. Los chatbots que dan consejos y demás también son una preocupación. salud mental, ya que las herramientas de IA pueden amplificar el sesgo de confirmación de alguien, lo que facilita que los usuarios busquen interacciones que refuercen sus creencias inútiles.
“Si un adolescente está de mal humor y no tiene un deseo consciente de sentirse mejor, puede buscar una conversación con un chatbot que sabe que lo hará sentir peor”, dijo. “Con el tiempo, este tipo de interacción puede socavar el sentido de autoestima de los adolescentes, incluso cuando saben que realmente están hablando con un bot. En un estado mental emocional, es menos posible que un individuo considere tal lógica. “
Por ahora, depende de los padres iniciar conversaciones significativas con sus hijos adolescentes sobre las mejores prácticas para comunicarse con IA, especialmente a medida que las herramientas comienzan a aparecer en aplicaciones y servicios populares.
Sinead Bovell, fundadora de la startup WAYE, que ayuda a preparar a los jóvenes para el futuro con tecnología avanzada, dijo que los padres deben tener claro que “los chatbots no son sus amigos”.
“Tampoco son sus terapeutas o asesores de confianza y cualquier persona que interactúe con ellos debe tener mucho cuidado, especialmente los adolescentes que pueden ser más propensos a creer lo que dicen”, dijo.
“Los padres ahora deberían hablar con sus hijos sobre cómo no deben compartir nada personal con un chatbot que quieren como amigo, aunque, desde la perspectiva del diseño del usuario, el chatbot está en la misma esquina que Snapchat”.
Agregó que también se necesita una regulación federal que requiera que las empresas sigan ciertos protocolos para sostener el rápido desarrollo de la inteligencia artificial.
Especialista web. Evangelista de viajes. Alborotador. Fanático de la música amigable con los hipster. Experto en comida
