Descripción
Los sistemas actuales de "aprendizaje automático", entrenados por datos, son tan efectivos que los hemos invitado a ver y oír por nosotros, y a tomar decisiones en nuestro nombre. Pero las alarmas están sonando. Los últimos años han sido testigos de una erupción de preocupación a medida que avanza el campo del aprendizaje automático. Cuando los sistemas que intentamos enseñar no hacen, al final, lo que queremos o lo que esperamos, surgen riesgos éticos y potencialmente existenciales. Los investigadores lo llaman el problema de la alineación.
Los sistemas seleccionan currículums hasta que, años después, descubrimos que tienen sesgos de género inherentes. Los algoritmos deciden la fianza y la libertad condicional, y parecen evaluar a los acusados blancos y negros de manera diferente. Ya no podemos asumir que nuestra solicitud de hipoteca, o incluso nuestros exámenes médicos, serán vistos por ojos humanos. Y a medida que los vehículos autónomos comparten nuestras calles, cada vez ponemos más nuestras vidas en sus manos.
Los modelos matemáticos y computacionales que impulsan estos cambios varían en complejidad, desde algo que puede caber en una hoja de cálculo hasta un sistema complejo que podría llamarse, de manera creíble, "inteligencia artificial". Están reemplazando constantemente tanto el juicio humano como el software explícitamente programado.
En la fascinante narración del autor superventas Brian Christian, conocemos a los "primeros respondedores" del problema de la alineación y aprendemos su ambicioso plan para resolverlo antes de que nuestras manos estén completamente fuera del volante. En una magistral combinación de historia y reportaje de campo, Christian rastrea el crecimiento explosivo en el campo del aprendizaje automático y examina su actual y vasta frontera. Los lectores se encuentran con una disciplina que está encontrando su camino en medio de un progreso estimulante y, a veces, aterrador. Si ellos, y nosotros, tenemos éxito o fracasamos en resolver el problema de la alineación, será una historia humana que nos definirá.
El problema de la alineación ofrece un ajuste de cuentas implacable con los sesgos y puntos ciegos de la humanidad, nuestras propias suposiciones tácitas y objetivos a menudo contradictorios. Una obra deslumbrantemente interdisciplinaria, analiza a fondo no solo nuestra tecnología sino también nuestra cultura, y encuentra una historia a la vez desgarradora y esperanzadora.
Author: Brian Christian
Publisher: W. W. Norton & Company
Published: 10/05/2021
Pages: 496
Binding Type: Paperback
Weight: 0.85lbs
Size: 8.19h x 5.43w x 1.26d
ISBN13: 9780393868333
ISBN10: 0393868338
BISAC Categories:
- Science | Philosophy & Social Aspects
- Science | Cognitive Science
- Computers | Social Aspects