Ir al contenido principal

I.A. y discriminación

Los algoritmos de inteligencia artificial permiten tomar decisiones basadas en el análisis de un conjunto de datos (dataset) determinado. Este dataset es un factor determinante en los resultados que ofrece la IA, cuanto más amplio y variado sea mejor cumplirá su función.

Si el dataset tiene poca variedad de datos o datos sesgados los resultados a los que llegará la I.A. no serán acertados. Es lo que en al argot de la IA se llama bias (parcialidad).

Se están comenzando a producir situaciones que están generando polémica con resultados de análisis realizados por IAs relativos a minorías o a mujeres en Estados Unidos.

Se suministran una serie de datos a una IA y ésta llega a conclusiones consideradas escandalosas, para explicar estos resultados se pone el acento normalmente en el sesgo de los datos utilizados o en que la IA hereda los prejuicios de sus creadores.

¿Quién vigila al vigilante? ¿Es parcial el creador de la IA? ¿La IA? ¿O el humano que recibe el informe?

Las decisiones de una IA están basadas en un conjunto de datos que proviene del pasado en un determinado contexto, si cambia el contexto esos resultados no serán tan certeros. Se corre el riesgo de aceptar las decisiones de una IA y su modelo de datos para generar una situación petrificada que no admita una mejora o evolución por parte de un determinado grupo humano.

Cada persona es además un mundo, a tus vecinos puede apasionarles el fútbol, pero tú puedes ser la excepción. Pero para un algoritmo de IA tú serías un apasionado del fútbol sí o sí si cumples con las condiciones del análisis.

En temas financieros y de seguros idependientemente de la legalidad vigente este tipo de algoritmos son utilizados y cada vez van a tener más peso en las decisiones de las compañías del ramo.

Vamos a encontrarnos en unos años con situaciones verdaderamente conflictivas conforme el uso de la IA se extienda, en un principio las generaciones que venidos de un mundo pre-IA supondremos un freno a su presunta infalibilidad, pero conforme pasen los años no me extrañaría que estos frenos desaparezcan.

En fin, veremos que tal.





Comentarios

Entradas populares de este blog

MySql: Como multiplicar dos campos fila a fila y sumar el resultado en una misma SELECT

Aquí va un ejemplo de sql básico.

Imaginemos que tenemos una tabla llamada productos_carrito_compra con dos campos: cantidad (con la cantidad de cada producto) y precio (con el precio de cada producto). Necesitamos saber cual es el precio total acumulado en el carrito de la compra, ¿Cómo podríamos obtener esa cantidad sin tener que recurrir a PHP?

Pues así: SELECT SUM(cantidad*precio) as resultado FROM productos_carrito_compra

Videojuegos:Xinput y DirectInput

Desde hace algún tiempo muchos de los juegos de PC que compro en Steam no funcionan con mi gamepad para PC compatible con PS3, he estado investigando un poco y he encontrado la razón.

A día de hoy hay dos tipos de drivers para gamepad en Windows, xInput y DirectInput, xInput es más moderno que DirectInput, está basado en las especificaciones de XBOX360 y es muy utilizado en los juegos que tienen también versión para esta consola.

DirectInput es más antiguo que xInput, son los drivers de gamepad para Windows de toda la vida, tienen más limitaciones técnicas y están cayendo en desuso.

En mi caso lo que hago para mi gamepad es instalar un emulador de drivers de XBOX360 para que mi gamepad me sirva, a veces da errores o se cuelga con el motor del vibrador (por ejemplo con las arañas en Castlevania Lords of Shadow) o no funciona bien en algunas ocasiones (por ejemplo en Batman Origins con el botón de investigar pruebas en el modo detective). Vamos, que no es la solución perfecta. Si queré…