QUIEREN REGULAR LA INTELIGENCIA ARTIFICIAL

QUIEREN REGULAR LA INTELIGENCIA ARTIFICIAL

La iniciativa pertenece al diputado Jorge Reta, con el fin desregular todos los sistemas de inteligencia
artificial empleados en el ámbito porteño, en consonancia con los valores promovidos en la Constitución de la Ciudad de Buenos Aires, promoviendo la protección de la democracia, seguridad, salud y derechos de los ciudadanos ante el uso dañino de la inteligencia artificial.
A continuación el articulado completo del proyecto:

Artículo 2 ° .- Definición. A los efectos de la presente, se entiende por Inteligencia artificial:

La inteligencia artificial es la habilidad de una máquina de presentar las mismas capacidades que los seres humanos, como el razonamiento, el aprendizaje, la creatividad y la capacidad de planear. Perciben su entorno, se relacionan con él, resuelven problemas y actúan con un fin específico. La máquina recibe datos (ya preparados o recopilados a través de sus propios sensores, por ejemplo, una cámara), los procesa y responde a ellos. Los sistemas de IA son capaces de adaptar su comportamiento en cierta
medida, analizar los efectos de acciones previas y de trabajar de manera autónoma.
Datos biométricos. Información personal surgida de técnicas específicas de procesamiento de información relativa al físico, psicología, características y comportamiento de una persona que permitan o confirmen la identificación de una persona.
Identificación en tiempo real.

Identificación biométrica remota de personas en espacios públicos accesibles con el objetivo de ejercer un control violatorio de la privacidad de la persona y con resultados pasibles de categorización discriminatoria basada en la edad, etnia, sexo o discapacidad.
Infraestructura crítica. Instalaciones, equipos, sistemas, o parte de instalaciones, equipos y
sistemas necesarios para la provisión de servicios esenciales.
Servicios esenciales. Servicios cruciales para el mantenimiento de la actividad social,
económica, salud pública, seguridad y medioambiente.
Proveedor de inteligencia artificial. Cualquier distribuidor, comercializador, desarrollador o
participante en el desarrollo de inteligencia artificial debe ser considerado como proveedor a
los efectos de la presente regulación.
Información pasible de uso público. Información legal obtenida legalmente con el objeto de
salvaguardar intereses públicos sustanciales en las siguientes áreas:

  1. Seguridad pública y salud pública, incluyendo la detección de enfermedades,
    diagnósticos preventivos, control y tratamiento y mejoras en el sistema de salud
    pública;
  2. Seguridad y adaptabilidad de los sistemas de transporte público, infraestructura
    crítica;
  3. Eficiencia y calidad de la administración pública y servicios públicos.
    Artículo 3 ° .- Prohibiciones. Queda prohibido:
  4. La utilización ,en cualquier ámbito, de inteligencia artificial que utilice técnicas
    subliminales a la conciencia de las personas, que teleológicamente utilice técnicas
    manipulativas o engañosas con el objetivo o efecto de alterar el comportamiento de las personas o grupos de las personas conllevando una afección en la toma de
    decisiones de la persona o grupo.
  5. La utilización ,en cualquier ámbito, de inteligencia artificial que utilice las
    vulnerabilidades de una personas o grupo específico en base a su edad, discapacidad,
    condición social o económica buscando alterar su comportamiento de forma tal que
    pueda generar un daño al grupo o persona.
  6. La utilización ,en cualquier ámbito, de inteligencia artificial con el fin de clasificar o
    evaluar de personas o grupo de personas durante un determinado tiempo basándose en
    su comportamiento social, conocimiento, personalidad predecida que pueda conllevar
    a un tratamiento desfavorable a una persona o grupo determinado de personas en un
    contexto diferente al original donde se generó o colectó la información.
  7. La utilización de inteligencia artificial para predecir análisis de riesgo de personas o
    grupos de personas con el objetivo de predecir la posibilidad que la misma o el mismo
    pueda incurrir en un acto delictivo; basándose en sus características personales o
    grupales. Queda plenamente excluido de tal consideración el uso de inteligencia
    artificial para el apoyo en el tratamiento de personas o grupos de personas
    involucradas en actividades criminales, siempre y cuando sea objetivo y verificable o
    tenga vínculos directos con la actividad criminal.
  8. La utilización ,en cualquier ámbito, de inteligencia artificial o el uso de sistemas de
    categorización biométrica con la finalidad de deducir su opinión política, su
    participación en organizaciones sociales, su participación en organizaciones
    religiosas, orientación sexual. Se excluye la clasificación de la obtención legal de información biométrica. El “uso en tiempo real” de sistemas de identificación biométrica en espacios de
    acceso público con la finalidades policiacas salvo cuando:
    a. Se tratase de la busqueda de victimas de secuestro, trafico humano,
    explotación sexual y búsqueda de personas desaparecidas;
    b. La prevención de amenazas específicas, sustanciales e inminentes o que
    comprometan la integridad física de una persona o grupo.
    Artículo 4 ° .- Obligaciones de proveedores. Los proveedores de inteligencia artificial
    tendrán las siguientes obligaciones:
  9. Control de riesgo. Los sistemas de inteligencia artificial deberán ser probados con el
    objetivo de identificar su amenaza y posibles formas de adecuar su uso, cuando no
    eliminarlo, de forma tal que no viole la normativa vigente.
  10. Cumplir con los requisitos de la presente ley.
  11. Registrarse debidamente en el registro de empresas de inteligencia artificial el cual
    dependerá del ministerio de economía o autoridad en la que devenga.
  12. Disponer la información técnica correspondiente al empleo y control del sistema de
    inteligencia artificial registrado.
  13. Aquellos proveedores que se consideren o se pueda considerar como de riesgo rojo o
    naranja que hayan iniciado operaciones de forma precedente a la entrada de vigencia
    de esta normativa, deberán someterse a un análisis de la autoridad de aplicación con el objeto de ejercer las correcciones necesarios aun cuando ello conlleve su retiro,
    inhabilitación, o modificación para su empleo.
  14. Los proveedores deberán, ante el requerimiento por parte de la autoridad competente,
    entregar toda la información y documentación necesaria para demostrar la
    conformidad del cumplimiento de los requerimientos referidos, cumpliendo con una
    redacción de fácil entendimiento para la autoridad.
  15. Los desarrolladores deberán asignar un control humano para personas que posean la
    competencia necesaria, habilidades técnicas y autoridad, así como también dar el
    apoyo necesario
  16. Los desarrolladores de inteligencia artificial deberán monitorear la operación de
    inteligencia artificial de nivel rojo. Deberán ,de manera activa y sistemática,
    recolectar documentación relevante que de pauta del rendimiento del sistema en uso a
    lo largo de su vida útil conllevando la verificación del cumplimiento de los
    requerimientos dispuestos en la presente ley. Se encuentra terminantemente prohibido
    acceder a información clasificada salvo que la autoridad pertinente autorice tal acceso
    con la finalidad de verificar el correcto funcionamiento.
  17. Los proveedores de sistemas de inteligencia artificial deberán relevar a la autoridad de
    aplicación cualquier incidente que pudiese ocurrir en el empleo de los sistemas
    referidos.
    a. Inmediatamente posterior al reporte el proveedor deberá, sin demora alguna,
    ejecutar las investigaciones necesarias respecto al sistema de inteligencia
    artificial involucrado. Deberá incluir un análisis de riesgo del evento como así
    también una acción correctiva del mismo y la disposición de tales datos a la Justicia. Artículo 5 ° .- Requisitos para proveedores. Los proveedores deberán cumplir los siguientes
    requisitos:
  18. Estar radicados en la Argentina.
  19. Transparencia y rendición de cuenta rutinaria semestral ante la autoridad competente.
  20. No destinar los bienes a otro uso o goce que el estipulado o hacer uso indebido de los
    mismos.
  21. Facilitar el acceso de inspectores autorizados a todas las instalaciones, libros de
    contabilidad y documentación vinculada con el cumplimiento del contrato y firmar las
    actas de infracción que se labren.
  22. Satisfacer las multas por infracciones dentro de los tres (3) días de notificado.
    Artículo 6 ° .- Registro Único de Proveedores de Inteligencia Artificial.
    En el Registro Único de Proveedores de Inteligencia Artificial deben inscribirse los
    proveedores de inteligencia artificial y servicios afines que anhelen contratar con el Estado de
    la Ciudad Autónoma de Buenos Aires. En el mismo se consignarán sus antecedentes legales,
    económicos y comerciales nacionales e internacionales.
    Aquellas jurisdicciones y/o entidades contratantes no pueden exigir certificación de
    inscripción registral y vigencia. La misma deberá ser requerida internamente al Registro
    Único de Proveedores de Inteligencia Artificial. La inscripción en el Registro Único de
    Proveedores de Inteligencia Artificial es condición indispensable para contratar con el Estado de la Ciudad de Buenos Aires. Los procedimientos de inscripción deben ser simples, gratuitos, rápidos y asistidos. La
    tramitación se realiza en forma electrónica en el sitio de internet del sistema. El interesado
    debe acompañar dentro del plazo que establezca la reglamentación, la documentación
    correspondiente. La autoridad de aplicación establecerá las pautas de su funcionamiento
    restantes.
    Artículo 5 ° .- Empleo de la información pasible de uso público. La información pasible de
    uso público podrá ser empleada limitándose a funciones fuera de tiempo real, pudiendo
    admitirse su uso en tiempo real para las situaciones detalladas a continuación:
    A. Búsqueda una persona desaparecida
    B. Búsqueda de un prófugo
    C. Prevención de eventos que pudiesen atentar contra la seguridad pública debiendo estar
    limitado en tiempo y espacio su uso y debidamente registrada.
    Artículo 6 ° .- De la información personal en el uso público. Toda información personal
    procesada a los efectos de lo mencionado en el artículo precedente, deberá estar separada,
    aislada, protegida en el procesamiento y uso conforme a la normativa nacional y local
    vigente.
    Artículo 7 ° .- Del uso de la inteligencia artificial en la educación o formación profesional.
    Aquellos sistemas de inteligencia artificial utilizados en la educación o la formación
    profesional que la Ciudad Autónoma de Buenos Aires posea potestad, en particular para:
    A. determinar el acceso o la admisión; para asignar personas a instituciones o programas
    educativos y de formación profesional en todos los niveles;
    B. para evaluar los resultados del aprendizaje de las personas; C. para evaluar el nivel de educación adecuado para un individuo y que influyen
    materialmente en el nivel de educación y formación que las personas recibirán o
    podrán acceder;
    D. para monitorear y detectar comportamientos prohibidos de los estudiantes durante las
    pruebas;
    Artículo 8 ° .- Niveles de riesgo. A los efectos de la presente ley se tomará en cuenta la
    siguiente clasificación de riesgos:
    I. Rojo. Para aquellos sistemas de inteligencia artificial que:
    A. Alteren el comportamiento cognitivo de las personas o grupos, manipulando
    sus acciones.
    B. Generen una clasificación discriminatoria o social scoring.
    C. Identifiquen a las personas biometricamente y las categoricen.
    D. Sistemas de identificación biométrica en tiempo real y remoto.
    II. Naranja. Para aquellos sistemas de inteligencia artificial que:
    A. Sean usados en productos que contemplados en materia de legislación
    productiva de la Ciudad.
    B. Que recaigan en áreas críticas que deban ser registradas por una base de datos
    de la ciudad, siendo considerados los siguientes puntos:
    i. Manejo y operación de infraestructura crítica.
    ii. Educación. iii. Manejo de personal.
    iv. Fuerzas de seguridad.
    v. Salud.
    vi. Asistencia en interpretación legal y aplicación de la ley.
    vii. Aquellos que la evolución tecnológica genere y la autoridad de
    aplicación considere pertinente.
    Artículo 9 ° .- Requerimientos de transparencia y publicidad. La inteligencia artificial
    generativa tendrá la obligación de poseer una aclaración visible en aquello que genere o
    modifique independientemente del ámbito de aplicación con el objeto de esclarecer su
    incidencia.
    Artículo 10 ° .- Comuníquese, etc.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *