domingo, 29 de enero de 2017

La inhumana tecnología o el poder del código

En un viaje reciente al reservar por internet el hotel pude observar como una oferta que aparecía al solicitar una habitación doble, no aparecía si solicitaba 2 habitaciones dobles. ¿Era un problema de la web (del código) o realmente se pretendía realizar así la oferta? (podría ser por ejemplo que no se quería fidelizar grupos o familias). Finalmente realicé 2 reservas a mi nombre de 1 habitación y en ambas pude aprovechar la oferta (como inconveniente las habitaciones estuvieron cerca pero no continuas).

En otra ocasión solicité en una oficina de registro cierto trámite y el funcionario que me atendió me dijo que no podía realizarlo, no por falta de habilitación, o porque fuera ilegal. La escusa esgrimira era "el programa no me deja meterlo".

Anécdotas como éstas me traen a la mente el capítulo 7 de libro de Lawrence Lessig donde de una forma muy inteligente establece las reglas que regulan el comportamiento humano. Señala 4 restricciones que hacen que la gente se comporte de una u otra forma:



  • La Ley: Si una ley nos obliga o prohibe cierto proceder la gente obedece la ley para evitar multas, cárcel o incluso la muerte.
  • Las Normas Morales: Hay ciertas leyes no escritas o ciertas costumbres que además suelen variar muchas veces de un lugar a otro que contradecirlas puede ser más o menos grave.
  • La Arquitectura: Lo que es imposible no se puede hacer. Aquí también dependemos de como por ejemplo las administraciones diseñan algo para que no se pueda incumplir. Puede prohibirse circular con coche por una calle (señal de tráfico =  Ley) o impedirse (mediante vallas atravesadas = Arquitectura).
  • El Mercado: Lo que es caro no puedo pagarlo.

¿Donde entra el código? Claramente en la tercera restricción. Si un programa se diseña o se implementa de forma que una opción no sea posible, no podremos ejecutar dicha opción por mucho que sea legal, de costumbre común o barata.



Es sobre este aspecto, el código sobre el que quería reflexionar. Surge como otro factor más impersonal sobre el que excusarse para realizar algo que a veces no es justo. Igual que el famoso pasaje de las uvas de la ira  de la película de John Ford (que adapta la novela homónima de John Steinbeck):

- Yo no puedo hacer nada, cumplo órdenes; me mandaron a deciros que estáis desahuciados.
- ¿Quiere decir que me echan de mi tierra?
- No hay que enfadarse conmigo, yo no tengo la culpa.
- ¿Pues quién la tiene?
- Ya sabes que el dueño de la tierra es la compañía Shawny Land.
- Pero tendrán un presidente; alguien que sepa para qué sirve un rifle.
- Pero, hijo, ellos no tienen la culpa. El banco les dice lo que tienen que hacer.
- Muy bien, ¿dónde está el banco?
- En Tulsa, pero allí no vas a resolver nada; allí sólo está el apoderado. El pobre sólo trata de cumplir las órdenes de Nueva York.
- Entonces, ¿a quién matamos?
- La verdad, no lo sé. Si lo supiera te lo diría; yo no sé quién es el culpable.
- No pienso marcharme de aquí señor, no hay nadie en el mundo que pueda echarme de mi tierra. Mi abuelo la trabajó durante 70 años. Mi padre nació aquí. Todos nacimos aquí. Y algunos murieron aquí.
Tras la crisis del 29 millares de granjeros tuvieron que emigrar a California sin que nadie fuera responsable de aquella crisis, de que perdieran sus tierras.

Tenemos que evitar que el código sirva como excusa para  que se produzcan situaciones injustas en el futuro, que las decisiones técnicas supongan resultados inhumanos. No podemos permitir que las máquinas tomen decisiones sobre aspectos donde es necesario una flexibilidad que solo un humano puede tener.


Imagen: https://en.wikipedia.org/wiki/File:Wrathposters141.jpg

No hay comentarios: