Las discusiones recientes sobre la seguridad de la IA lo vinculan cada vez más con los riesgos existenciales que plantea la IA vanguardia, lo que sugiere que topar la seguridad inherentemente implica considerar escenarios catastróficos. Sin secuestro, esta perspectiva tiene inconvenientes: puede excluir a los investigadores con diferentes enfoques, engañar al divulgado para pensar que la seguridad de la IA se alcahuetería solamente de amenazas existenciales y crear resistor entre los escépticos. A medida que AI avanza rápidamente, los formuladores de políticas deben establecer marcos regulatorios y estándares de seguridad. Si perfectamente los riesgos existenciales dominan el discurso flagrante, los campos de seguridad tecnológicos pasados, como la aviación, los productos farmacéuticos y la ciberseguridad, han desarrollado prácticas sólidas de ingeniería y gobernanza. Estos marcos podrían informar la seguridad de la IA, asegurando la implementación del sistema confiable y responsable.
Investigadores de la Universidad de Edimburgo y la Universidad Carnegie Mellon destacan que las discusiones de seguridad de IA a menudo se centran en los riesgos existenciales, lo que puede excluir diversas perspectivas y engañar a la percepción pública. Su revisión sistemática de la investigación revisada por pares revela un amplio espectro de preocupaciones de seguridad, que incluyen robustez adversa e interpretabilidad, alineándose con las prácticas tradicionales de seguridad del sistema. El estudio sugiere integrar riesgos a corto y liberal plazo en empleo de priorizar las amenazas existenciales. Si perfectamente la investigación de seguridad de IA evoluciona rápidamente, capturar estudios relevantes sigue siendo desafiante. Expandir el discurso para incorporar principios establecidos de seguridad de ingeniería puede ayudar a topar los riesgos de IA inmediatos y futuros de forma efectiva.
Los investigadores revisaron sistemáticamente la letras de seguridad de IA utilizando una metodología estructurada basada en las pautas de Kitchenham y Charters, complementadas con el muestreo de patraña de cocaína para capturar la investigación emergente. Se centraron en dos preguntas secreto de investigación: identificar riesgos en todo el ciclo de vida del sistema de IA y evaluar las estrategias de mitigación propuestas. Su proceso de búsqueda implicó consultar la Web of Science (WOS) y bases de datos de Scopus, refinar los resultados a través de filtros jerárquicos y complementar los hallazgos con documentos de semillas influyentes. El proceso de revisión incluyó la detección de 2.666 documentos de cojín de datos y 117 del muestreo de patraña de cocaína, seleccionando 383 para el exploración. Los documentos se anotaron con metadatos, como afiliaciones de autor, año de publicación y recuento de citas, y se clasificaron en función de enfoques metodológicos, preocupaciones de seguridad específicas abordadas y estrategias de mitigación de riesgos.
El exploración bibliométrico del estudio reveló un aumento constante en la investigación de seguridad de IA desde 2016, impulsado por los avances en el enseñanza profundo. Un exploración de nubes de palabras destacó temas secreto, como el enseñanza de refuerzo seguro, la robustez adversa y la habilitación del dominio. Un manifiesto de concurrencia de términos abstractos identificó cuatro grupos de investigación principales: (1) implicaciones humanas y sociales de la IA, centrándose en la confianza, la responsabilidad y la aval de seguridad; (2) enseñanza seguro de refuerzo, enfatizando el control robusto de los agentes en entornos inciertos; (3) enseñanza supervisado, particularmente en tareas de clasificación, con un enfoque en la robustez, la universalización y la precisión; y (4) ataques adversos y estrategias de defensa en modelos de enseñanza profundo. Los resultados sugieren que la investigación de seguridad de IA se alinea con los principios tradicionales de ingeniería de seguridad, que integran aspectos de la ingeniería de confiabilidad, la teoría de control y la ciberseguridad para respaldar que los sistemas de IA sean efectivos y seguros.
La investigación de seguridad de IA clasifica los riesgos en ocho tipos: ruido, desatiendo de monitoreo, determinación errónea del sistema y ataques adversos. La mayoría de los estudios abordan los problemas relacionados con el ruido y los títulos atípicos, lo que afecta la robustez y la universalización del maniquí. Un enfoque significativo incluso está en el monitoreo de fallas, especificaciones erróneas del sistema y brechas de control de control. Los métodos de investigación incluyen algoritmos aplicados, agentes simulados, marcos de exploración e interpretabilidad mecanicista. Mientras que los trabajos teóricos proponen modelos conceptuales, los estudios aplicados desarrollan algoritmos prácticos. Los esfuerzos recientes enfatizan la seguridad del enseñanza de refuerzo, la robustez adversa y la explicación. El campo es paralelo a la seguridad de la ingeniería tradicional, que integran técnicas de comprobación para mejorar la confiabilidad de la IA y mitigar los riesgos potenciales.
En conclusión, el estudio revisó sistemáticamente la letras revisada por pares para explorar los desafíos de seguridad de la IA. Los hallazgos destacan diversas motivaciones y resultados de investigación destinados a respaldar que los sistemas de IA sean confiables y beneficiosos. La investigación de seguridad de IA aborda varios riesgos, incluidos los defectos de diseño, los problemas de robustez, el monitoreo inadecuado y los sesgos integrados. El estudio aboga por enmarcar la seguridad de la IA adentro de la seguridad tecnológica más amplia, expandir la décimo de las partes interesadas y promover la investigación inclusiva. Si perfectamente los riesgos existenciales siguen siendo relevantes, una perspectiva más amplia fomenta el discurso productivo. La investigación futura debería explorar la seguridad sociotécnica de la IA e incorporar fuentes no revisadas para una comprensión integral para una comprensión integral, respaldar que la seguridad de la IA siga siendo un campo evolutivo, inclusivo y multidisciplinario.
Efectuar el Papel. Todo el crédito por esta investigación va a los investigadores de este tesina. Por otra parte, siéntete fugado de seguirnos Gorjeo Y no olvides unirte a nuestro 75k+ ml de subreddit.
Sana Hassan, una pasante de consultoría en MarktechPost y estudiante de doble porción en IIT Madras, le apasiona aplicar tecnología e IA para topar los desafíos del mundo positivo. Con un gran interés en resolver problemas prácticos, aporta una nueva perspectiva a la intersección de la IA y las soluciones de la vida positivo.