OpenAI y Anthropic desarrollan herramienta para combatir extremismo violento en IA
OpenAI y Anthropic están desarrollando una nueva herramienta en Nueva Zelanda diseñada para identificar y contrarrestar el extremismo violento en plataformas de inteligencia artificial como ChatGPT. El sistema dirigirá a los usuarios que muestren tendencias de extremismo violento hacia programas de desradicalización que combinan apoyo humano e intervenciones de chatbots. Esta iniciativa representa un esfuerzo de las principales empresas de IA para abordar riesgos de seguridad y responsabilidad social en sistemas de lenguaje de gran escala, estableciendo protocolos para mitigar posibles usos maliciosos de la tecnología.
