Economía
OpenAI violó la legislación de Canadá al entrenar.
Toronto.- Los reguladores de privacidad de Canadá informaron este miércoles que OpenAI ha violado las leyes canadienses de protección de datos personales en el desarrollo y despliegue de ChatGPT, al recopilar información personal de individuos, como condiciones médicas, ideología y datos sobre menores.
Estas conclusiones forman parte de un informe presentado hoy por el comisionado de Privacidad de Canadá, Philippe Dufresne, junto con sus homólogos de las provincias de Quebec, Columbia Británica y Alberta.
Los reguladores canadienses investigaron la recolección, uso y divulgación de información personal por parte de OpenAI para entrenar y operar ChatGPT, y llegaron a la conclusión de que el entrenamiento inicial del chatbot no cumplió con las normas federales y provinciales de privacidad.
Como motivos de esta conclusión, mencionaron la recopilación excesiva de datos personales, la falta de consentimiento válido, la insuficiente transparencia, respuestas con información personal inexacta o falsa, dificultades para que los individuos accedieran, corrigieran o borraran sus datos, y la falta de responsabilidad sobre la información bajo control de la empresa.
Los compromisos de OpenAI
De acuerdo con el informe, OpenAI recopiló grandes cantidades de información personal a través de fuentes públicas, redes sociales, foros y otros sitios web.
Dufresne indicó en un comunicado que OpenAI lanzó ChatGPT “sin haber abordado plenamente” los riesgos conocidos de privacidad.
«Esto expuso a los canadienses a posibles daños, como filtraciones de datos y discriminación basada en la información sobre ellos», añadió.
Entre las medidas que citaron los reguladores están herramientas para detectar y enmascarar datos personales, como nombres o números de teléfono, en conjuntos de datos utilizados para el entrenamiento, así como mejoras en los mecanismos de acceso y corrección de información, políticas formales de retención y eliminación de datos, y nuevos avisos para informar a los usuarios de que sus conversaciones pueden ser revisadas o utilizadas para entrenar modelos.
«Estas medidas limitarán significativamente la información personal que se utiliza para entrenar nuevos modelos de ChatGPT», explicó el comisionado canadiense.
OpenAI deberá presentar informes trimestrales a los reguladores canadienses para demostrar el cumplimiento de los compromisos asumidos.
La polémica en torno a un tiroteo reciente
Dufresne subrayó que la investigación evidencia la necesidad de modernizar las leyes canadienses de privacidad ante el avance de la inteligencia artificial, aunque destacó que las normas actuales ya se aplican a estas tecnologías. “Las salvaguardas adecuadas son la base de la innovación responsable”, declaró.
La presentación del informe se produce poco después de que el consejero delegado de OpenAI, Sam Altman, pidiese disculpas a la localidad canadiense de Tumbler Ridge por no haber alertado a las autoridades sobre una de sus usuarias, que posteriormente mató a ocho personas en la comunidad.
En una carta dirigida a la comunidad, Altman expresó en abril sus “más profundas condolencias” a las familias de las víctimas y reconoció que la empresa no informó a las fuerzas del orden cuando detectó actividad alarmante en la cuenta de la autora del tiroteo.
El tiroteo ocurrió el pasado 10 de febrero, cuando una joven de 18 años que padecía trastornos mentales mató a cinco niños, una profesora y dos familiares antes de suicidarse.
Tras revelarse que OpenAI había detectado interacciones preocupantes a través de las conversaciones de la autora con ChatGPT, pero que decidió no comunicar esa información a la Policía, las autoridades canadienses criticaron a la compañía estadounidense y pidieron explicaciones sobre lo sucedido.
A finales de abril, varias familias de las víctimas de Tumbler Ridge presentaron una demanda en San Francisco (EE. UU.) contra OpenAI, reclamando a la compañía una indemnización de hasta 1.000 millones de dólares.
creditos de las imagenes de este post: Deultimominuto.net
