J’ai lu dans le magazine Fast Company, le point de vue rafraîchissant de Chris Cardinal, fondateur de Synapse Studios, une compagnie de consultation en logiciels. Alors que les Mark Zuckerberg et Elon Musk de ce monde semblent toujours guidés par le slogan « Move Fast and Break Things » (utilisé chez Facebook jusqu’en 2014), l’auteur enjoint plutôt les gestionnaires des entreprises technologiques à exercer une certaine prudence éthique en matière d’innovation: « This strategy [le move fast and break things] prioritizes action over analysis and, while it can be conducive to innovation, it often results in disaster. » Compte tenu des difficultés traversées par ce secteur, cette prudence pourrait éviter des pertes financières importantes, explique-t-il… et des problèmes dont l’Humanité pourrait bien se passer.
Rappelant des conséquences indésirables de certaines technologies – la désinformation et ses impacts sociaux, l’avènement de fraudeurs toujours plus sophistiqués, l’augmentation du cynisme, diverses interférences électorales et un recrutement plus facile pour des organisations néfastes – Cardinal prend position en faveur d’une responsabilisation du secteur technologique qui semblait encore inimaginable il y a quelques années.
This raises a controversial question: Do tech companies have a moral obligation to mitigate the harm they introduce to society?
Guilt should accompany the creation of potentially destructive technologies. I don’t think this topic is often discussed, but it should be.
(Chris Cardinal, 13 mars 2023)
D’après Cardinal, parce qu’il est devenu si facile de développer (littéralement) dans son sous-sol des technologies de rupture et destructrices, “it’s the responsibility of both the tech companies and the people using their technologies not to cause harm”.
Il leur prodigue les recommandations suivantes:
- Prendre son temps (TaKe It Slow): malgré l’impatience des actionnaires, prendre de temps de mener des bans d’essais et des scénarios catastrophes pour évaluer tous les risques que présentent une technologie.
- Établir un comité éthique (Establish An Ethics Panel): tenter d’avoir des représentants de plusieurs perspectives sociales pour éviter les biais, se doter d’un code de conduite… et le suivre. « A strong ethical code creates a sustainable company culture and keeps the public on your side. »
- Définir sa mission (Define Your Purpose): « Expliquez clairement l’objectif de votre technologie et veillez à ce qu’elle corresponde à vos valeurs. Elle doit servir un objectif positif. »
- Éviter l’écoblanchiment (Avoid Greenwashing): Cette tactique de fausse-représentation malicieuse peut causer du tort au public et à l’environnement.
Source: Cardinal, Chris (13 mars 2023), POV: Entrepreneurs need to rethink ‘move fast and break things’, Fast Company, Mansueto Ventures.
