Gadgets

Les étudiants de se confronter à l’éthique côté de la technologie dans la « Conception pour le Mal » cours

Si c’est de surveiller ou de tromper les utilisateurs, d’une manipulation ou la vente de leurs données, ou d’engendrer de mauvaises habitudes alimentaires ou de pensées, tech ces jours n’est pas à court de comportement contraire à l’éthique. Mais il ne suffit pas de dire simplement “c’est effrayant.” Heureusement, un cours à l’Université de Washington est d’équiper à ses étudiants les idées philosophiques de mieux identifier et corriger — tech pernicieuse manque d’éthique.

“La conception pour le Mal” vient de conclure son premier trimestre à l’université du wisconsin de l’Information de l’École, où de futurs créateurs d’applications et de services, comme ceux que nous comptons tous sur le quotidien de découvrir les outils du commerce. Mais grâce à Alexis Hiniker, qui enseigne la classe, ils sont aussi l’apprentissage de la critique de compétences de questionner les implications morales et éthiques de ces applications et de services.

Quels sont, par exemple, est un bon moyen de faire un dating app qui est inclusif et favorise la bonne santé des relations? Comment une IA imitant un homme d’éviter la tromperie? Comment quelque chose d’aussi invasive que la Chine a proposé citoyen système de notation sera faite de convivialité, il est possible de l’être?

J’ai parlé à toutes les équipes d’étudiants à l’affiche de la séance tenue le UW campus, et aussi bavardé avec Hiniker, qui a conçu le cours, et semblait heureux de la façon dont il s’est avéré.

La prémisse est que les élèves sont soumis à un cours intensif dans la philosophie morale qui présentent entre eux avec des idées influentes, telles que l’utilitarisme et de déontologie.

“Il est conçu pour être accessible aux laïcs que possible,” Hiniker m’a dit. “Ce ne sont pas de la philosophie des étudiants — c’est une classe de conception. Mais je voulais voir ce que je pouvais sortir avec.”

Le texte principal est de Harvard, professeur de philosophie Michael Sandel du célèbre livre de la Justice, qui Hiniker senti combiné les différentes philosophies dans un lisible, intégrée format. Après l’ingestion, les étudiants regroupés pris d’une application ou de la technologie qu’ils auraient à évaluer en utilisant les principes décrits, et prescrire éthique recours.

Comme il s’est avéré, de trouver des problèmes éthiques liés à la technologie a été la partie la plus facile — et des correctifs pour eux allaient de la simple à l’impossible. Leurs idées étaient intéressantes, mais j’ai eu le sentiment de beaucoup d’entre eux qu’il y avait une sorte de déception face au fait que beaucoup de ce tech offre, ou comment il le propose, est nécessairement et fondamentalement contraire à l’éthique.

J’ai trouvé que les étudiants entrent dans l’une des trois catégories.

Pas fondamentalement contraire à l’éthique (mais pourrait utiliser une éthique de tune-up)

WebMD est bien sûr un site très utile, mais il était clair pour les élèves à qui il manquait d’inclusion: son symptôme checker est empilé contre les non-anglophones et ceux qui pourraient ne pas connaître les noms des symptômes. L’équipe a proposé un symptôme de journaliste, avec un corps de base de la carte et non-écrites de la douleur et des symptômes indicateurs.

Bonjour Barbie, la poupée que les chats du dos pour les enfants, est certainement un champ de mines d’ordre juridique et éthique des violations, mais il n’y a aucune raison qu’il ne peut pas être fait droit. Avec le consentement des parents et de l’attention de l’ingénierie, il sera en ligne avec les lois sur la vie privée, mais l’équipe a déclaré qu’elle n’a toujours pas certains tests de maintenir le dialogue avec les enfants en bonne santé et les parents informés. Les scripts d’interaction, disaient-ils, doit être publique — ce qui est évident dans retrospect et audio doivent être analysés sur l’appareil plutôt que dans le cloud. Enfin, un ensemble d’avertissement des mots ou des phrases indiquant les comportements malsains pourrait avertir les parents de choses comme de l’automutilation, tandis que le reste de la conversation secrète.

) Découvrir permet aux utilisateurs de trouver d’autres personnes autour d’eux et de voir les dernières photos qu’ils ont prises — c’est de l’opt-in, ce qui est bon, mais il peut être filtré par le genre, la promotion d’un raccordement à la culture que l’équipe a dit est mal vu en Chine. Il obscurcit à l’utilisateur de nombreux contrôles de derrière de multiples couches de menus, qui peuvent inciter les gens à partager quand ils n’ont pas l’intention de. Certains de base de l’INTERFACE utilisateur de bogues ont été proposés par les élèves, et quelques idées sur la façon de lutter contre la possibilité que des avances non désirées de la part d’étrangers.

Netflix n’est pas mal, mais sa tendance à promouvoir le binge-watching a volé à ses utilisateurs de nombreuses heures. Cette équipe a estimé que certains de base de l’utilisateur de fixer des limites comme les deux épisodes par jour, ou de retarder le prochain épisode d’une certaine quantité de temps, pourrait interrompre l’habitude et encourager les gens à reprendre le contrôle de leur temps.

Fondamentalement contraire à l’éthique (les corrections sont toujours en vaut la peine)

FakeApp est un moyen de faire face-swap dans la vidéo, la production de convaincre faux dans lesquels un politicien ou un ami semble dire quelque chose qu’ils n’ont pas. C’est fondamentalement trompeur, bien sûr, dans un sens large, mais vraiment que si les clips sont transmis comme authentique. Filigranes visibles et invisibles, et le recadrage de la source de vidéos, ont été cette équipe de la suggestion, bien que finalement la technologie de ne pas céder à ces volontaires de mesures d’atténuation. Alors, vraiment, un informés de la population est la seule réponse. Bonne chance avec ça!

La chine du “crédit social” du système n’est pas fait, les élèves ont soutenu, absolument contraire à l’éthique — que le jugement implique une certaine quantité de préjugés culturels. Mais je suis à l’aise de le mettre ici en raison de l’entrée massive des questions éthiques qu’il a abandonné et rejeté sur la route de déploiement. Leur très suggestions pratiques, cependant, ont été axées sur rendre le système plus transparent et responsable. Concours des rapports de comportement, de voir quels sont les types de choses ont contribué à votre propre score de, de voir comment il a évolué au fil du temps, et ainsi de suite.

L’amadou est contraire à l’éthique de la nature, selon l’équipe, était fondée sur le fait qu’il était ostensiblement sur la façon d’établir les relations humaines, mais est clairement conçu pour être un marché de la viande. Forcer les gens à se considérer comme des objets physiques d’abord et avant tout à la poursuite de la romance n’est pas en bonne santé, ils ont soutenu, et qui amène les gens à dévaluer eux-mêmes. Comme une contre-mesure, ils ont suggéré d’avoir des réponses à des questions ou des invites être la première chose que vous voyez sur une personne. Vous auriez à passer en fonction sur qu’avant de voir les photos. J’ai suggéré d’avoir un deal-breaker questions que vous auriez à un accord, en tant que bien. Ce n’est pas une mauvaise idée, mais ouvert à des jeux (comme le reste de la rencontre en ligne).

Fondamentalement contraire à l’éthique (les corrections sont essentiellement impossible)

La Ligue, en revanche, était un dating app, qui s’avèrent réfractaires aux lignes directrices éthiques. Non seulement était-il un marché de la viande, mais c’était un marché de la viande où les gens ont payé pour être parmi les sélectionnés soi-même “élite” et pourrait filtrer par origine ethnique et d’autres troublants catégories. Leurs suggestions de la suppression de la taxe et de ces filtres, entre autres choses, essentiellement détruit le produit. Malheureusement, La Ligue est un contraire à l’éthique du produit non conforme personnes. Aucun montant de peaufinage va changer tout ça.

Duplex a été prise par un smart équipe qui a pourtant clairement commencé leur projet après la Google I/O. Malheureusement, ils ont trouvé que les éléments fondamentaux de la tromperie intrinsèque à une IA se présentant comme un homme est éthiquement inadmissible. Il pourrait, bien sûr, d’identifier lui-même — mais ce serait gâcher l’ensemble de la proposition de valeur. Mais ils ont également demandé une question que je n’ai pas pensé à demander à moi-même dans mon propre couverture: pourquoi n’est-ce pas IA avoir épuisé toutes les autres options avant d’appeler un homme? Il pourrait visiter le site, envoyer des sms, utiliser d’autres applications, et ainsi de suite. AIs, en général, par défaut, en interaction avec les sites web et les applications d’abord, puis à d’autres AIs, ensuite et seulement ensuite, les gens à qui on doit dire que c’est une IA.


Pour moi, la partie la plus précieuse de toutes ces enquêtes était d’apprendre ce qui nous l’espérons devient une habitude: à regarder les fondamentaux de l’éthique de la solidité d’une entreprise ou de la technologie, et d’être capable de l’exprimer.

Que peut faire la différence lors d’une réunion entre le fait d’être en mesure de dire quelque chose de vague et facilement arrachée, comme “je ne pense pas que ce soit une bonne idée”, et décrivant un préjudice spécifique et la raison pourquoi ce préjudice est important — et peut-être la façon dont il peut être évité.

Comme pour Hiniker, elle a quelques idées pour améliorer le cours doit-il être approuvé pour une répétition de l’année prochaine. Un vaste ensemble de textes, pour l’un: “de plus en Plus diversifiée des écrivains, des plus diverses voix,” dit-elle. Et idéalement, il pourrait même être étendu à un multi-trimestre en cours, afin que les étudiants obtiennent un léger saupoudrage de l’éthique.

Avec un peu de chance, les enfants dans ce cours (et à l’avenir) sera en mesure d’aider à faire ces choix, ce qui réduit le nombre des Ligues et des Duplex et des plus COPPA conforme intelligente de jouets et de datation des applications qui n’ont pas de sabotage de l’estime de soi.

About the author

Cyriac

Je suis Zeh Cyriac , fondateur et chef de la direction de la société informatique DROP Corporation Inc. et blogueur indépendant aux États-Unis, avec une passion pour l'Entrepreneuriat en ligne, le marketing de contenu et toutes les choses qui tournent au tour du digital et ’informatique .

Add Comment

Click here to post a comment

Newsletter

Les dernières nouvelles du Web, de la high-tech et de l'innovation numérique tous les matins à l'heure du petit déjeuner.

Vous avez parfaitement souscrit ! Consultez vos mails pour confirmer l'inscription .