Page 39 - Anuario AC/E de cultura digital 2024

Inteligencia artificial (IA): según el Consejo Europeo,27 es el uso de tecnología digital para crear sistemas capaces de realizar tareas que, por lo general, se considera que requieren inteligencia humana.
Aprendizaje profundo (deep learning): se trata
de un tipo de aprendizaje automático que se
basa en la manera en la que el cerebro humano procesa información: aprende a través de las llamadas «redes neuronales profundas». Permite procesar grandes volúmenes de datos y aprender sin ser programado explícitamente. Existen dos tipos fundamentales de aprendizaje en las redes neuronales: aprendizaje supervisado y aprendizaje no supervisado.
Entrenamiento de una red neuronal: como explica este artículo de la MIT News Office,28 cuando
se entrena una red neuronal todos sus pesos y umbrales se establecen inicialmente en valores aleatorios. Los datos de entrenamiento se envían a la capa inferior (la capa de entrada) y pasan a través de las capas sucesivas, multiplicándose
y sumando de maneras complejas hasta que finalmente llegan, radicalmente transformados, a la capa de salida. Durante el entrenamiento, los pesos y umbrales se ajustan continuamente hasta que los datos de entrenamiento con las mismas etiquetas produzcan resultados similares de manera consistente.
Ataque de suplantación de identidad (spoofing attack): ataque malicioso realizado a un sistema biométrico para hacerse pasar por una persona autorizada, por ejemplo, en un sistema de reconocimiento de voz, obteniendo acceso no autorizado al mismo. Como explica San Segundo (2023a), existen tres tipos fundamentales: imitación, repetición (replay) y síntesis y/o conversión de voz.
Figura 4. Glosario de términos de IA relacionados con los deepfakes de voz.
27 https://www.consilium.europa.eu/es/policies/ artificial-intelligence/?utm_source=linkedin. com&utm_medium=social&utm_campaig- n=20231209-digital-ai&utm_content=visual-carou- sel
28 https://news.mit.edu/2017/ explained-neural-networks-deep-learning-0414
29
30
• La UE es el primer legislador mundial en intentar crear derecho sobre inteligencia artificial.
• Su propuesta legislativa puede establecer un estándar global para la regulación de la IA en otras jurisdicciones.
https://podcasts.apple.com/za/ podcast/deepfakes-and-the-law/ id265307843?i=1000634023260 https://www.consilium.europa.eu/en/press/ press-releases/2023/12/09/artificial-inte- lligence-act-council-and-parliament-stri- ke-a-deal-on-the-first-worldwide-rules-for-ai/
3. De la ciencia al derecho: una mirada a los retos futuros
¿Cuáles son las características que hacen única la voz humana y que, por tanto, no pueden replicarse artificialmente? ¿Existe alguna caracte- rística esencial que distinga la voz humana o, por el contrario, esta será indistinguible de una voz artificial en el futuro?
Estos son los retos futuros a los que se en- frenta la fonética aplicada hoy en día, más en concreto la fonética forense, que se ocupa de las aplicaciones legales de la fonética.
En el pódcast de la BBC que recomendamos más arriba, Deepfakes and the Law (Law in Action),29 Anil Alexander, un fonetista forense que trabaja en Oxford, nos cuenta cómo están afectando los deepfakes a los peritajes de voz, con referencias concretas a la legislación inglesa.
Si nos centramos en el ámbito europeo, el pasado 9 de diciembre de 2023 el Consejo y el Parlamento europeos alcanzaron un acuerdo so- bre el Reglamento de Inteligencia Artificial.30 En la página web del Consejo de la Unión Europea encontramos, en varios idiomas, una explicación pormenorizada de los cambios que introduce el reglamento de IA de la UE, que podemos resumir en los siguientes puntos:
ANUARIO AC/E DE CULTURA DIGITAL 2024
Anuario AC/E de cultura digital 2024
39