La Casa Blanca esta mañana desvelado lo que coloquialmente se llama una “Declaración de derechos de IA”, cuyo objetivo es establecer principios sobre las formas en que se deben implementar los algoritmos de IA, así como las medidas de seguridad en sus aplicaciones. En cinco viñetas elaboradas con comentarios del público, empresas como Microsoft y Palantir y grupos de derechos humanos y ética de la IA, el documento establece los principios de seguridad, transparencia y privacidad que la Oficina de Política Científica y Tecnológica (OSTP, por sus siglas en inglés), que redactó el borrador de la IA. Declaración de derechos: argumenta que conducirá a mejores resultados mientras mitiga las consecuencias dañinas de la vida real.
La Declaración de derechos de IA exige que los sistemas de IA demuestren ser seguros y efectivos mediante pruebas y consultas con las partes interesadas, además del monitoreo continuo de los sistemas en producción. Llama explícitamente a la discriminación algorítmica, diciendo que los sistemas de IA deben diseñarse para proteger tanto a las comunidades como a las personas de la toma de decisiones sesgada. Y sugiere encarecidamente que los usuarios deberían poder optar por no participar en las interacciones con un sistema de IA si así lo desean, por ejemplo, en caso de una falla del sistema.
Más allá de esto, el plan propuesto por la Casa Blanca postula que los usuarios deben tener control sobre cómo se utilizan sus datos, ya sea en la toma de decisiones o el desarrollo de un sistema de IA, y ser informados en un lenguaje sencillo sobre cuándo se utiliza un sistema automatizado en un lenguaje sencillo.
Para los puntos de OSTP, la historia reciente está llena de ejemplos de algoritmos que se han vuelto locos. Modelos usó en los hospitales para informar sobre los tratamientos de los pacientes más tarde se ha descubierto que es discriminatorio, mientras que la contratación de herramientas diseñado Se ha demostrado que eliminar a los candidatos para los puestos de trabajo rechaza predominantemente a las mujeres solicitantes en favor de los hombres, debido a los datos sobre los que se entrenaron los sistemas. Sin embargo, como Axios y cableado nota en su cobertura de prensa de hoy, la Casa Blanca llega tarde a la fiesta; un número creciente de organismos ya han intervenido sobre el tema de la regulación de la IA, incluida la UE e incluso el Vaticano.
También es completamente voluntario. Mientras que la Casa Blanca busca “predicar con el ejemplo” y hacer que las agencias federales se alineen con sus propias acciones y políticas derivadas, las corporaciones privadas no están sujetas a la Declaración de Derechos de AI.
Junto con el lanzamiento de la Declaración de Derechos de AI, la Casa Blanca anunció que ciertas agencias, incluido el Departamento de Salud y Servicios Humanos y el Departamento de Educación, publicarán una guía en los próximos meses para reducir el uso de tecnologías algorítmicas dañinas o peligrosas. en configuraciones específicas. Pero estos pasos no alcanzan, por ejemplo, la regulación de la UE en desarrollo, que prohíbe y restringe ciertas categorías de IA que se considera que tienen un potencial dañino.
Aún así, expertos como Oren Etzioni, cofundador del Instituto Allen para IA, creen que las pautas de la Casa Blanca tendrán cierta influencia. “Si se implementa correctamente, [a] El proyecto de ley podría reducir el mal uso de la IA y, sin embargo, respaldar los usos beneficiosos de la IA en la medicina, la conducción, la productividad empresarial y más”, dijo. dicho El periodico de Wall Street.
Source link