La IA generativa podría hacer que las conversaciones en línea sean más civilizadas
M
is colegas y yo hemos realizado un estudio que indica que los modelos de lenguaje de gran tamaño (como ChatGPT) pueden hacer que las conversaciones en línea sean más productivas, reducir la incivilidad e incrementar la disposición a tener conversaciones difíciles a pesar de las diferencias sociales. Además, ya estamos viendo aplicaciones prácticas. Inspirada por esta investigación, Nextdoor, una plataforma de redes sociales basada en la comunidad, que ha luchado por combatir la toxicidad en línea, lanzó recientemente una iniciativa exitosa y a gran escala para reducir la incivilidad.
La mayoría de las personas no saben cómo manejar los conflictos. Sin embargo, las ciencias sociales han producido una gran cantidad de evidencias sobre la mediación de conflictos. Cuando las personas aprenden técnicas como la escucha activa o la toma de perspectiva, tienen más probabilidades de expresar sus opiniones. Pero este tipo de formación requiere mucho tiempo y dinero, y por lo general no llega a quienes evitan los conflictos.
En un estudio publicado recientemente en Proceedings of the National Academy of Sciences, mis colegas y yo examinamos si los modelos de lenguaje de gran tamaño pueden enseñar a las personas técnicas de mediación de conflictos. Reclutamos a un gran grupo de personas con opiniones diferentes sobre el control de armas, y las emparejamos (para que discutieran este tema con alguien que no compartiera su punto de vista) en una plataforma de chat en línea que construimos.
Después de intercambiar varios mensajes en nuestra plataforma, la mitad de los participantes del estudio comenzaron a recibir mensajes emergentes que sugerían frases alternativas para los mensajes que estaban a punto de enviar a su compañero de chat. Estas opciones emergentes utilizaban GPT-3 para reformular cada mensaje, utilizando principios de mediación de conflictos, sin cambiar la opinión expresada en ellas. Los participantes tenían la opción de enviar estas versiones reformuladas de su mensaje o ignorarlas.
Descubrimos que el GPT-3 es sorprendentemente bueno para facilitar conversaciones difíciles. Las personas cuyo compañero utilizó las reformulaciones generadas por IA describieron las conversaciones como más productivas, menos estresantes, y expresaron una mayor disposición a considerar puntos de vista alternativos. Aunque nuestra intervención mejoró la civilidad de las conversaciones en línea, no cambió de inmediato las actitudes de las personas sobre el control de armas. Pero tal vez eso sea algo bueno. Una IA que otorga a los usuarios un gran poder de persuasión podría causar estragos en las manos equivocadas.
Nuestro estudio se realizó un mes antes de que ChatGPT se lanzara públicamente. Además, solo examinamos si GPT-3 podía facilitar conversaciones sobre un único tema en un entorno un tanto artificial. Por lo tanto, la siguiente pregunta era obvia: ¿pueden estas mismas herramientas reducir los conflictos en el mundo real?
Si una iniciativa lanzada recientemente por Nextdoor sirve de guía, la respuesta a esa pregunta es sí. Una encuesta representativa a nivel nacional reveló recientemente que los conflictos abundan en Nextdoor. Si hay un espacio en línea en el que la IA generativa podría descarrilarse al intentar disuadir el conflicto, ese podría ser Nextdoor.
Sin embargo, en su último Transparency Report, NextDoor anunció algunos resultados impresionantes en relación con su uso de IA para mediar en los conflictos. Cuando la IA reformuló los mensajes desagradables que los usuarios estaban a punto de enviar, muchos optaron por utilizarlos, y algunos más se sintieron obligados a editar sus mensajes originales. Otros decidieron no enviar ningún mensaje. En última instancia, la intervención provocó un impresionante descenso del 15% en el contenido tóxico. Dada la cantidad de comunicación potencialmente controvertida que tiene lugar en el entorno laboral (como Slack, Microsoft Teams y otras plataformas de colaboración), especialmente en momentos de alta tensión social y política, podría ser el momento de que estas plataformas consideren añadir chatbots que puedan realizar intervenciones similares.
© 2024 Harvard Business School Publishing Corp. | De: hbr.org | Distribuido por: The New York Times Syndicate.
Artículo en inglés
My colleagues and I have conducted research indicating that Large Language Models such as ChatGPT can make online conversations more productive, reduce incivility and increase willingness to have difficult conversations across social divides. What’s more, we’re already seeing practical applications: Inspired by such research, Nextdoor, a community-based social-media platform that has struggled to rebuff online toxicity, recently launched a successful, large-scale effort to reduce incivility.
Most people are bad at navigating conflict. Yet social science has produced a rich array of evidence about conflict mediation. When people learn techniques such as active listening or perspective taking, they are more likely to get their own points across. But such training is both time-consuming and expensive and usually does not reach those who are conflict avoidant.
In a study recently published in the Proceedings of the National Academy of Sciences, my colleagues and I examined whether Large Language Models can teach people conflict-mediation techniques at scale. We recruited a large group of people with different opinions about gun control and paired them to discuss this topic with someone who does not share their view on an online chat platform we built.
After exchanging several messages on our platform, half of the research participants began to receive pop-up messages suggesting alternative phrasings for the messages they were about to send to their chat partner. These pop-ups employed GPT-3 to rephrase each post using conflict mediation principles — without changing the opinion expressed within them. Participants had the option to send these rephrased versions of their message or ignore them.
We found that GPT-3 is surprisingly good at facilitating difficult conversations. People whose partner used the AI-generated re-phrasings described the conversations as more productive, less stressful and expressed greater willingness to consider alternative viewpoints. Though our intervention improved the civility of online conversations, it did not immediately shift people’s attitudes about gun control. But perhaps that is a good thing: an AI that gives users strongly persuasive powers could wreak havoc in the wrong hands.
Our study was conducted one month before ChatGPT was publicly released. Moreover, we only examined whether GPT-3 could facilitate conversations about a single issue in a somewhat artificial setting. The next question therefore was obvious: Can these same tools reduce conflict in real-world settings?
If a recent effort launched by Nextdoor is any guide, the answer to that question is yes. A nationally representative survey recently revealed that conflicts abound on Nextdoor. If there’s any online space where Generative AI could go off the rails trying to dissuade conflict, Nextdoor might be it.
But in its latest Transparency Report, NextDoor announced some impressive results concerning its use of AI to mediate conflict. When AI rephrased unpleasant messages that users were about to send, many chose to use them, and others felt compelled to edit their original posts. Still others chose not to send their messages at all. Ultimately, the intervention created an impressive 15% drop in toxic content. Given how much potentially contentious communication takes place in the workplace on Slack, Microsoft Teams and other collaboration platforms — especially during times of high social and political tension — it might be time for these platforms to consider adding chatbots that can stage similar interventions.
La IA generativa podría solucionar las evaluaciones de desempeño (o empeorarlas aún más)
La IA puede alejar las evaluaciones de desempeño de las narrativas laborales y acercarlas a evidencia directa del trabajo en la práctica.
Es difícil utilizar la IA en equipo. Estas 3 prácticas pueden ayudar
He aquí tres prácticas que pueden ayudar a desarrollar la «química humano-IA en los equipos» a medida que evoluciona el lugar de trabajo.
¿Cuáles son los problemas de su empresa en materia de IA?
El “Ethical Nightmare Challenge” (ENC) es un marco de trabajo que puede integrarse con programas existentes de gestión de riesgos de IA.
