Nachricht

Jan 12, 2024

Informatiker, die die Zukunft gestalten, sind sich nicht einig, was Privatsphäre bedeutet

Forscher der Carnegie Mellon University wollten eine Lösung schaffen, die die Privatsphäre schützt

Forscher der Carnegie Mellon University wollten einen intelligenten Sensor entwickeln, der die Privatsphäre schützt. Dann wurde ihnen vorgeworfen, die Privatsphäre ihrer Kollegen verletzt zu haben.

Als Informatikstudenten und Lehrkräfte am Institute for Software Research der Carnegie Mellon University im Sommer 2020 auf den Campus zurückkehrten, gab es viel zu tun.

Abgesehen von der unvermeidlichen Seltsamkeit, nach Monaten der sozialen Distanzierung wieder mit Kollegen zusammen zu sein, zog die Abteilung auch in ein brandneues Gebäude um: die 90.000 Quadratmeter große, hochmoderne TCS-Halle.

Zu den futuristischen Merkmalen der Halle gehörten Kohlendioxidsensoren, die automatisch frische Luft einleiten, ein Regengarten, ein Garten für Roboter und Drohnen sowie experimentelle Supersensorgeräte namens Mites. Diese lichtschaltergroßen Geräte sind an mehr als 300 Standorten im gesamten Gebäude montiert und können 12 Arten von Daten messen – darunter Bewegung und Geräusche. Im Rahmen eines Forschungsprojekts zu intelligenten Gebäuden unter der Leitung von CMU-Professor Yuvraj Agarwal und Doktorand Sudershan Boovaraghavan, an dem ein weiterer Professor, Chris Harrison, beteiligt war, wurden Milben an Wänden und Decken von Fluren, in Konferenzräumen und in Privatbüros eingebettet.

„Das übergeordnete Ziel dieses Projekts“, erklärte Agarwal auf einer Bürgerversammlung im April 2021, ist der „Aufbau einer sicheren und benutzerfreundlichen IoT-Infrastruktur (Internet der Dinge)“ und bezog sich dabei auf ein Netzwerk aus Sensoren. Ausgestattete physische Objekte wie intelligente Glühbirnen, Thermostate und Fernseher, die eine Verbindung zum Internet herstellen und Informationen drahtlos austauschen können.

Nicht jeder war erfreut, das Gebäude voller Milben vorzufinden. Einige in der Abteilung hatten das Gefühl, dass das Projekt ihre Privatsphäre verletzte, anstatt sie zu schützen. Insbesondere Studenten und Lehrkräfte, deren Forschung sich mehr auf die sozialen Auswirkungen der Technologie konzentrierte, waren der Meinung, dass das Mikrofon, der Infrarotsensor, das Thermometer und sechs weitere Sensoren des Geräts, die zusammen zumindest erkennen konnten, wann ein Raum besetzt war, sie einer experimentellen Überwachung aussetzen würden ohne deren Zustimmung.

„Es ist nicht in Ordnung, diese standardmäßig zu installieren“, sagt David Widder, ein Doktorand im Abschlussjahr in Software-Engineering, der zu einem der lautstärksten Stimmen der Abteilung gegen Mites wurde. „Ich möchte nicht in einer Welt leben, in der der Arbeitgeber, der ohne vorherige Aufforderung vernetzte Sensoren in Ihrem Büro installiert, ein Vorbild für andere Organisationen ist, dem sie folgen können.“

Alle Technologienutzer stehen vor ähnlichen Fragen, wie und wo sie beim Thema Privatsphäre eine persönliche Grenze ziehen können. Aber außerhalb unseres eigenen Zuhauses (und manchmal auch innerhalb davon) mangelt es uns zunehmend an Autonomie bei diesen Entscheidungen. Stattdessen wird unsere Privatsphäre durch die Entscheidungen der Menschen um uns herum bestimmt. Wenn wir das Haus eines Freundes, ein Einzelhandelsgeschäft oder einfach eine öffentliche Straße betreten, sind wir vielen verschiedenen Arten der Überwachung ausgesetzt, über die wir kaum Kontrolle haben.

Vor dem Hintergrund der rasant zunehmenden Überwachung am Arbeitsplatz, der umfangreichen Datenerfassung, zunehmender Cybersicherheitsrisiken, wachsender Bedenken hinsichtlich Datenschutz und intelligenter Technologien sowie einer angespannten Machtdynamik rund um die freie Meinungsäußerung in akademischen Einrichtungen wurde Mites zum Blitzableiter innerhalb des Institute for Software Research.

Stimmen auf beiden Seiten des Themas waren sich bewusst, dass das Mites-Projekt weit über TCS Hall hinaus Auswirkungen haben könnte. Schließlich ist Carnegie Mellon eine erstklassige Forschungsuniversität in den Bereichen Wissenschaft, Technologie und Ingenieurwesen, und die Art und Weise, wie sie mit dieser Forschung umgeht, kann Einfluss darauf haben, wie Sensoren anderswo eingesetzt werden. „Wenn wir etwas tun, hören Unternehmen … [und] andere Universitäten zu“, sagt Widder.

Tatsächlich hofften die Mites-Forscher, dass der Prozess, den sie durchlaufen hatten, „tatsächlich eine Blaupause für kleinere Universitäten sein könnte“, die ähnliche Forschungen durchführen wollten, sagt Agarwal, ein außerordentlicher Professor für Informatik, der maschinelles Lernen für IoT-Geräte entwickelt und testet seit einem Jahrzehnt.

Aber die entscheidende Frage ist, was passiert, wenn – oder wann – die Supersensoren ihren Abschluss an der Carnegie Mellon machen, kommerzialisiert werden und ihren Weg in intelligente Gebäude auf der ganzen Welt finden.

Der Konflikt ist im Wesentlichen ein Versuch einer der weltweit führenden Informatikabteilungen, heikle Fragen rund um Privatsphäre, Anonymität und Einwilligung zu klären. Aber es hat sich von einer akademischen Diskussion zu einem erbitterten Streit entwickelt, der mit Vorwürfen wie Mobbing, Vandalismus, Fehlinformationen und Vergeltungsmaßnahmen am Arbeitsplatz einhergeht. Wie in so vielen Gesprächen über Privatsphäre redeten beide Seiten aneinander vorbei und hatten scheinbar unvereinbare Vorstellungen davon, was Privatsphäre bedeutet und wann eine Einwilligung erforderlich sein sollte.

Wenn die Menschen, deren Forschung die Agenda für Technologieentscheidungen festlegt, letztendlich nicht in der Lage sind, einen Konsens über den Datenschutz zu erzielen, wo bleibt dann der Rest von uns?

Das Mites-Projekt basierte auf zwei Grundannahmen: Erstens, dass Gebäude überall bereits Daten ohne Standard-Datenschutz sammeln und dies auch weiterhin tun werden. Und zweitens besteht die beste Lösung darin, bessere Sensoren zu bauen – nützlicher, effizienter, sicherer und besser zielgerichtet.

Mit anderen Worten: Milben.

„Was wir wirklich brauchen“, erklärt Agarwal, ist „die Entwicklung von Sicherheits-, Datenschutz- und Safety-First-Systemen … um sicherzustellen, dass Benutzer Vertrauen in diese Systeme haben und das klare Wertversprechen verstehen.“

„Mir wäre es lieber, wenn wir die Leitung übernehmen würden als Google oder ExxonMobil“, fügt Harrison, außerordentlicher Professor für Mensch-Computer-Interaktion und Mitarbeiter der Fakultät an dem Projekt, hinzu und bezieht sich dabei auf die Sensorforschung. (Google finanzierte frühe Iterationen der Forschung, die zu Mites führte, während JPMorgan Chase „die Smart-Building-Forschung im TCS Hall großzügig unterstützt“, wie auf Plaketten rund um das Gebäude vermerkt.)

Mites – der Name bezieht sich sowohl auf die einzelnen Geräte als auch auf die Gesamtplattform – sind All-in-One-Sensoren, die von einem Hardware-Stack und einer Datenverarbeitung auf dem Gerät unterstützt werden. Während Agarwal sagt, dass sie nicht nach dem winzigen Wesen benannt wurden, zeigt das Logo auf der Website des Projekts einen Käfer.

Laut den Forschern stellen Milben eine deutliche Verbesserung gegenüber aktuellen Gebäudesensoren dar haben typischerweise einen einzigen Zweck – wie Bewegungsmelder oder Thermometer. Darüber hinaus funktionieren viele intelligente Geräte heutzutage oft nur isoliert oder mit bestimmten Plattformen wie Googles Nest oder Amazons Alexa; Sie können nicht miteinander interagieren.

Darüber hinaus bieten aktuelle IoT-Systeme wenig Transparenz darüber, welche Daten genau erfasst werden, wie sie übertragen werden und welche Sicherheitsprotokolle vorhanden sind – und tendieren eher zu einer Übererfassung.

Die Forscher hofften, dass Mites diese Mängel beheben und neue Einsatzmöglichkeiten und Anwendungen für IoT-Sensoren ermöglichen würde. Beispielsweise könnten Mikrofone an Mites Schülern dabei helfen, einen ruhigen Raum zum Lernen zu finden, sagten sie – und Agarwal schlug bei der Bürgerversammlung im April 2021 vor, dass der Bewegungssensor einem Bürobewohner sagen könnte, ob das Aufsichtspersonal tatsächlich jede Nacht Büros putzt. (Die Forscher haben seitdem gesagt, dass dies ein vorgeschlagener Anwendungsfall sei, der speziell auf Covid-19-Protokolle zugeschnitten sei und dass er dem Reinigungspersonal helfen könnte, sich auf Bereiche mit hohem Verkehrsaufkommen zu konzentrieren – sie sind jedoch von dieser Möglichkeit abgerückt.)

Die Forscher glauben auch, dass Milben – und Gebäudesensoren im Allgemeinen – auf lange Sicht der Schlüssel zur ökologischen Nachhaltigkeit sind. Sie sehen auch andere, ehrgeizigere Anwendungsfälle. Ein Universitätsartikel beschreibt dieses Szenario: Im Jahr 2050 beginnt eine Frau unter Gedächtnisverlust zu leiden. Ihr Arzt schlägt vor, Mites rund um ihr Zuhause zu installieren, um „eine Verbindung zu … intelligenten Lautsprechern herzustellen und ihr zu sagen, wann ihre Wäsche fertig ist und wann sie den Ofen eingeschaltet gelassen hat“ oder um ihren Schlaf zu bewerten, indem sie das Geräusch von zerzausten Laken oder nächtlichen Toilettengängen wahrnimmt. „Sie sind hilfreich für Emily, aber noch hilfreicher für ihren Arzt“, heißt es in dem Artikel.

Als in eine Plattform integrierte Mehrzweckgeräte sollten Mites alle möglichen Probleme lösen, ohne es bei der Datenerfassung zu übertreiben. Jedes Gerät enthält neun Sensoren, die alle möglichen Umgebungsinformationen über einen Raum erfassen können, darunter Geräusche, Licht, Vibrationen, Bewegung, Temperatur und Luftfeuchtigkeit – insgesamt ein Dutzend verschiedene Arten von Daten. Aus Datenschutzgründen werden keine Videos oder Fotos aufgenommen.

Die CMU-Forscher sind nicht die ersten, die ein solches Projekt versuchen. Eine IoT-Forschungsinitiative des Massachusetts Institute of Technology, auch MITes genannt, hat tragbare Sensoren entwickelt, um Umgebungsdaten wie Bewegung und Temperatur zu erfassen. Es lief von 2005 bis 2016, hauptsächlich als Teil von PlaceLab, einem experimentellen Labor, das einer Wohnung nachempfunden war, in der sorgfältig geprüfte Freiwillige sich bereit erklärten, zu leben und ihre Interaktionen untersuchen zu lassen. Die MIT- und CMU-Projekte stehen in keinem Zusammenhang. (MIT Technology Review wird teilweise vom MIT finanziert, behält aber die redaktionelle Unabhängigkeit.)

Die Forscher von Carnegie Mellon sagen, dass das Mites-System durch einen technischen Prozess namens „Featurisierung“ nur einen Teil der von den Geräten gesammelten Daten extrahiert. Dies sollte es schwieriger machen, beispielsweise eine Stimme auf eine Person zurückzuführen.

Maschinelles Lernen – das durch eine Technik namens Edge Computing letztendlich auf dem Gerät und nicht auf einem zentralen Server stattfinden würde – erkennt dann die eingehenden Daten als Ergebnis bestimmter Aktivitäten. Die Hoffnung besteht darin, dass ein bestimmter Satz von Vibrationen in Echtzeit beispielsweise auf einen vorbeifahrenden Zug übertragen werden könnte.

Die Forscher sagen, dass Mites durch Featurisierung und andere Arten von Edge-Computing die Privatsphäre besser schützen wird, da diese Technologien die Datenmenge minimieren, die in der Cloud gesendet, verarbeitet und gespeichert werden muss. (Derzeit findet maschinelles Lernen noch auf einem separaten Server auf dem Campus statt.)

„Unsere Vision ist, dass es einen Sensor gibt, der sie alle beherrscht, wenn Sie „Herr der Ringe“ gesehen haben. Die Idee ist, dass Sie statt dieser heterogenen Ansammlung von Sensoren einen Sensor haben, der zwei mal zwei Zoll groß ist „Paket“, erklärte Agarwal im Rathaus im April 2021, laut einer Aufzeichnung des Treffens, die mit MIT Technology Review geteilt wurde.

Aber wenn die Reaktion der Abteilung ein Hinweis darauf ist, war ein Ring der Macht, der es seinem Träger ermöglichte, die Herrschaft über andere zu erlangen, vielleicht nicht die beste Analogie.

Wenn Sie nicht danach suchen, wissen Sie vielleicht nicht, dass die helle und luftige TCS-Halle am westlichen Rand des Pittsburgh-Campus von Carnegie Mellon mit Mites-Geräten bedeckt ist – laut Agarwal sind es im Februar 2023 314 davon.

Aber wenn man genau hinschaut, sind sie da: kleine quadratische Leiterplatten, die mit Kunststoff ummantelt und auf Standard-Lichtschalterplatten montiert sind. Sie befinden sich in den Eingängen von Gemeinschaftsräumen und Büros, bei den Thermostaten und Lichtsteuerungen sowie in den Decken.

Die einzigen Orte in TCS Hall, die tatsächlich milbenfrei sind, sind die Badezimmer – und die fünfte Etage, wo Tata Consultancy Services, das indische multinationale IT-Unternehmen, das 35 Millionen US-Dollar zur Finanzierung des gleichnamigen Gebäudes gespendet hat, eine Forschungs- und Forschungsstudie durchführt Innovationszentrum. (Ein Sprecher sagte: „TCS ist nicht am Mites-Projekt beteiligt.“)

Widder, dessen Doktorarbeit sich mit der Frage beschäftigt, wie man KI-Entwicklern helfen kann, über ihre Verantwortung für den Schaden nachzudenken, den ihre Arbeit verursachen könnte, erinnert sich, dass er irgendwann im Herbst 2020 in seinem Büro von den Mites-Sensoren erfahren hat. Und als er sie bemerkte, konnte er es nicht mehr Übersehen Sie die blinkenden Geräte an seiner Wand und Decke oder die beiden an der Flurdecke direkt vor seiner Tür.

Widder wusste auch nicht sofort, wie man die Geräte ausschaltet; Sie hatten keinen Ein-Aus-Schalter. (Letztendlich würden seine Versuche, diesen Ausstieg zu erzwingen, seine Karriere zum Scheitern bringen.)

Für den angehenden Tech-Ethiker war das ein Problem. Widders akademische Arbeit untersucht, wie Softwareentwickler über die ethischen Auswirkungen der von ihnen entwickelten Produkte denken. Sein besonderes Anliegen ist es, Informatikern dabei zu helfen, die sozialen Folgen der Technologie zu verstehen. Und so war Mites sowohl beruflich als auch persönlich ein Anliegen. Die gleichen Probleme der Überwachung und Einwilligung nach Aufklärung, mit denen er Informatikern bei der Auseinandersetzung half, hatten Einzug in sein Büro gehalten.

Die CMU ist nicht die einzige Universität, die neue Technologien auf dem Campus testet, bevor sie sie in die weite Welt schickt. Universitätscampusse sind seit langem eine Hochburg der Forschung – mit manchmal fragwürdigen Richtlinien zur Einwilligung. Timnit Gebru, Technikethiker und Gründer des Distributed AI Research Institute, zitiert frühe Forschungen zur Gesichtserkennung, die auf von akademischen Forschern gesammelten Überwachungsdaten basierten. „Viele der problematischen Datenpraktiken, die wir in der Industrie sehen, wurden zuerst in der Forschungswelt durchgeführt und werden dann in die Industrie übertragen“, sagt sie.

Durch diese Linse betrachtete Widder Mites. „Ich denke, dass die nicht einvernehmliche Datenerfassung für Forschungszwecke … normalerweise unethisch ist. Pervasive Sensoren, die in privaten und öffentlichen Räumen installiert werden, machen eine immer umfassendere Überwachung zur Normalität, und das ist eine Zukunft, die ich nicht einfacher machen möchte“, sagt er.

Er äußerte seine Bedenken im Slack-Kanal der Abteilung, in E-Mails und in Gesprächen mit anderen Studenten und Fakultätsmitgliedern – und stellte fest, dass er nicht allein war. Viele andere Menschen seien überrascht, von dem Projekt zu erfahren, sagt er, und viele teilten seine Fragen dazu, wofür die Sensordaten verwendet würden und wann mit der Sammlung begonnen würde.

„Ich war noch nicht im TCS Hall, aber mir geht es genauso … was die Mites angeht“, schrieb ein anderes Abteilungsmitglied im April 2021 auf Slack. „Ich weiß, dass ich mich am wohlsten fühlen würde, wenn ich das Gerät in meinem Büro ausstecken könnte.“ ."

Die Forscher sagen, dass sie die erforderlichen Prozesse der Universität zur Datenerfassung befolgt haben und nach einer Prüfung durch das Institutional Review Board (IRB) und Anwälte die Genehmigung erhalten haben. Das IRB – das die Forschung überwacht, an der menschliche Probanden beteiligt sind, wie es die US-Bundesverordnung vorschreibt – hatte Feedback zum Mites-Forschungsvorschlag gegeben, bevor es das Projekt im März endgültig genehmigte. Laut einer öffentlichen FAQ zum Projekt kam der Vorstand zu dem Schluss, dass die bloße Installation von Mites und das Sammeln von Daten über die Umgebung keine IRB-Genehmigung oder vorherige Zustimmung der Bewohner der TCS-Halle erfordert – mit Ausnahme der Audiodatenerfassung in Privatbüros, die dies tun würde basierend auf einem „Opt-in“-Einwilligungsverfahren. Für spätere Phasen des Projekts wären Genehmigung und Zustimmung erforderlich, wenn Büronutzer eine mobile App verwenden würden, die ihnen die Interaktion mit Mites-Daten ermöglicht.

Die Mites-Forscher leiteten außerdem das Projekt des General Counsel der Universität, um zu prüfen, ob die Verwendung von Mikrofonen in den Sensoren gegen das Gesetz des Bundesstaates Pennsylvania verstößt, das die Zustimmung beider Parteien bei der Audioaufzeichnung vorschreibt. „Wir haben ausführliche Gespräche mit dem CMU-Büro des General Counsel geführt und sie haben bestätigt, dass wir nicht gegen das Abhörgesetz der PA verstoßen“, heißt es in den FAQ des Projekts.

Roboterstaubsaugerunternehmen behaupten, Ihre Bilder seien sicher, aber eine weitläufige globale Lieferkette für Daten von unseren Geräten birgt Risiken.

Insgesamt wurde das Institut für Softwareforschung, das inzwischen in Software und Gesellschaftssysteme umbenannt wurde, aufgeteilt. Einige der einflussreichsten Stimmen, darunter der Abteilungsleiter (und Widders Co-Berater der Abschlussarbeit), James Herbsleb, ermutigten die Abteilungsmitglieder, die Forschung zu unterstützen. „Ich möchte wiederholen, dass dies ein sehr wichtiges Projekt ist … wenn Sie eine Zukunft vermeiden wollen, in der Überwachung routinemäßig und unvermeidlich ist!“ schrieb er kurz nach dem Rathaus in einer E-Mail.

„Der erste Schritt bestand darin, … zu sehen, wie sich diese Dinge verhalten“, sagt Herbsleb und vergleicht die Mites-Sensoren mit Bewegungsmeldern, die die Leute vielleicht ausprobieren möchten. „Es geht nur darum: ‚Wie gut funktioniert es als Bewegungsmelder?‘ Und wissen Sie, niemand wird um seine Zustimmung gebeten. Es geht nur darum, ein Stück Hardware auszuprobieren.“

Natürlich bedeuteten die erweiterten Fähigkeiten des Systems, dass Mites nicht nur Bewegungsmelder waren – und andere Abteilungsmitglieder sahen die Dinge anders. „Es ist viel verlangt von den Leuten, einen Sensor mit Mikrofon in ihrem Büro zu haben“, sagt Jonathan Aldrich, Informatikprofessor, auch wenn „ich meinen Kollegen grundsätzlich vertraue und glaube, dass sie dieses Vertrauen verdienen.“ ." Er fügt hinzu: „Jemanden als guten Kollegen zu vertrauen ist nicht dasselbe, als würde man ihm einen Schlüssel zu seinem Büro geben oder etwas in seinem Büro installieren lassen, das private Dinge aufzeichnen kann.“ Jemand anderem zu erlauben, ein Mikrofon in Ihrem Büro zu steuern, sei „ganz so, als würde man jemand anderem einen Schlüssel geben.“

Als sich die Debatte im Laufe des nächsten Jahres steigerte, traten die Studierenden gegen ihre Betreuer und akademischen Helden an – obwohl viele unter vier Augen Einwände erhoben, weil sie die Konsequenzen fürchteten, wenn sie sich gegen ein gut finanziertes, von der Universität unterstütztes Projekt aussprachen.

In der von MIT Technology Review erhaltenen Videoaufzeichnung des Rathauses fragten die Teilnehmer, wie Forscher die Bewohner und Besucher von Gebäuden über die Datenerfassung informieren wollten. Jessica Colnago, damals Doktorandin, war besorgt darüber, wie sich die bloße Anwesenheit der Milben auf ihre Studien zum Thema Privatsphäre auswirken würde. „Als Datenschutzforscherin würde ich mich moralisch verpflichtet fühlen, meinen Teilnehmern von der Technologie im Raum zu erzählen“, sagte sie bei dem Treffen. Während „wir hier alle Kollegen sind“ und „einander vertrauen“, fügte sie hinzu, „können externe Teilnehmer das vielleicht nicht tun.“

Die Teilnehmer wollten außerdem wissen, ob die Sensoren verfolgen können, wie oft und zu welcher Zeit sie ihre Büros betreten. „Ich bin im Amt [X]“, sagte Widder. „Der Mite weiß, dass er etwas aus Büro [X] aufzeichnet, und identifiziert mich daher als Bewohner des Büros.“ Agarwal antwortete, dass bei keiner Analyse der Rohdaten versucht werde, diese Daten bestimmten Personen zuzuordnen.

An einer Stelle erwähnte Agarwal auch, dass er von der Idee, Mites-Sensoren zur Überwachung des Reinigungspersonals zu verwenden, überzeugt war – was einige im Publikum als Erleichterung der algorithmischen Überwachung interpretierten oder zumindest die ungleiche Leistungsdynamik deutlich demonstrierten am Spielen.

Ein Sensorsystem, das zur Überwachung von Arbeitern eingesetzt werden könnte, beunruhigte Jay Aronson, Professor für Wissenschaft, Technologie und Gesellschaft in der Geschichtsabteilung und Gründer des Center for Human Rights Science, der auf Mites aufmerksam wurde, nachdem Widder das Projekt zu ihm gebracht hatte Aufmerksamkeit. Universitätspersonal wie Verwaltungs- und Einrichtungsmitarbeiter werden eher negativ betroffen sein und weniger davon profitieren, sagte Aronson. „Schaden und Nutzen sind nicht gleich verteilt“, fügte er hinzu.

In ähnlicher Weise konnten Studierende und unbefristete Lehrkräfte offenbar nur sehr wenig direkt vom Mites-Projekt profitieren und sahen sich potenziellen Auswirkungen ausgesetzt, sowohl durch die Datenerhebung selbst als auch, wie sie befürchteten, dadurch, dass sie sich dagegen äußerten. Wir haben neben Widder auch mit fünf Studierenden gesprochen, die sich sowohl mit dem Forschungsprojekt als auch mit der Äußerung ihrer Bedenken unwohl fühlten.

Einer dieser Studenten gehörte zu einer kleinen Kohorte von 45 Studenten, die im Jahr 2021 im Rahmen eines Sommerprogramms Zeit an der TCS Hall verbrachten, um ihnen die Abteilung vorzustellen, während sie über eine Bewerbung für Graduiertenprogramme nachdachten. Bei der Bürgerversammlung erfuhren einige von ihnen zum ersten Mal etwas über die Milben. Einige waren verärgert, weil sie befürchteten, dass sie auf Video festgehalten oder aufgezeichnet würden.

Aber die Mites haben eigentlich kein Video aufgenommen. Und alle von den Mikrofonen aufgenommenen Audiodaten waren so verschlüsselt, dass sie nicht rekonstruiert werden konnten.

Tatsächlich sagen die Forscher, dass die Mites überhaupt keine verwertbaren Daten erfassten – und dies auch noch nicht tun.

Für die Forscher war diese „Fehlinformation“ über die gesammelten Daten, wie Boovaraghavan sie in einem Interview mit MIT Technology Review beschrieb, eine der größten Frustrationen des Projekts.

Aber wenn das Rathaus Details über das Projekt klären sollte, verschärfte es stattdessen einen Teil dieser Verwirrung. Obwohl in einem früheren abteilungsübergreifenden E-Mail-Thread klargestellt wurde, dass die Sensoren noch keine Daten sammelten, ging dies in der angespannten Diskussion unter. An einigen Stellen gaben die Forscher an, dass ohne die Genehmigung des IRB (die im Vormonat eingegangen war) keine Daten gesammelt wurden oder würden, und an anderen Stellen sagten sie, dass die Sensoren nur „Telemetriedaten“ sammelten (im Wesentlichen, um sicherzustellen, dass dies der Fall war). eingeschaltet und angeschlossen ist) und dass das Mikrofon „in allen Privatbüros ausgeschaltet“ ist. (In einer per E-Mail an MIT Technology Review gesendeten Erklärung stellte Boovaraghavan klar, dass „Daten in den eigenen privaten oder öffentlichen Räumen der Forschungsteams erfasst wurden, jedoch niemals in den Räumen anderer Bewohner.“)

Für einige, die unzufrieden waren, war es nebensächlich, welche Daten die Sensoren gerade genau erfassten. Es spielte keine Rolle, dass das Projekt noch nicht vollständig betriebsbereit war. Stattdessen bestand die Sorge, dass in Büros ohne Zustimmung Sensoren installiert wurden, die leistungsstärker waren als alles, was bisher verfügbar war. Sicher, die Mites sammelten zu diesem Zeitpunkt keine Daten. Aber zu einem von den Forschern noch unbestimmten Zeitpunkt könnten sie es sein. Und die Betroffenen bekommen möglicherweise kein Mitspracherecht.

Widder sagt, das Rathaus – und die anschließenden Einzelgespräche mit den Forschern – hätten ihn tatsächlich „mehr beunruhigt“. Er schnappte sich seinen Kreuzschlitzschraubendreher. Er zog die Mites in seinem Büro aus der Steckdose, schraubte die Sensoren von Wand und Decke ab und entfernte die Ethernet-Kabel aus ihren Buchsen.

Er legte seinen Mite in eine Plexiglasbox auf seinem Regal und schickte eine E-Mail an das Forschungsteam, seine Berater und die Leitung der Abteilung, um ihnen mitzuteilen, dass er die Sensoren ausgesteckt hatte, sie intakt ließ und sie zurückgeben wollte. Zusammen mit anderen Mitarbeitern der Abteilung verfasste er einen anonymen offenen Brief, in dem er weitere Einzelheiten zu seinen Bedenken darlegte.

Der Konflikt im TCS Hall verdeutlicht, was den Umgang mit Privatsphäre so schwierig macht: Sie ist subjektiv. Es gibt keinen einheitlichen Standard dafür, was Datenschutz bedeutet oder wann genau eine Einwilligung für die Erhebung personenbezogener Daten erforderlich sein sollte – oder was überhaupt als personenbezogene Daten gilt. Menschen haben unterschiedliche Vorstellungen davon, was akzeptabel ist. Die Mites-Debatte verdeutlichte die Diskrepanzen zwischen technischen Ansätzen zur Datenerhebung auf eine Weise, die die Privatsphäre besser schützt, und der „größeren philosophischen und sozialwissenschaftlichen Seite der Privatsphäre“, wie Kyle Jones, Professor für Bibliotheks- und Informationswissenschaft an der Indiana University, der sich mit der Privatsphäre von Studenten beschäftigt, betont in der Hochschulbildung, heißt es.

Einige Schlüsselthemen in den breiteren Debatten über den Datenschutz waren während des Milbenstreits besonders brisant. Was bedeutet eine Einwilligung nach Aufklärung und unter welchen Umständen ist sie erforderlich? Welche Daten können tatsächlich jemanden identifizieren, auch wenn sie nicht den gängigsten Definitionen von „personenbezogenen Daten“ entsprechen? Und sind Technologien und Prozesse zum Schutz der Privatsphäre ausreichend, wenn sie den Benutzern nicht klar genug kommuniziert werden?

Für die Forscher gab es auf diese Fragen eine klare Antwort: „Meine Privatsphäre kann nicht verletzt werden, wenn im wahrsten Sinne des Wortes keine Daten über mich gesammelt werden“, sagt Harrison.

Dennoch, sagen die Forscher, seien Einwilligungsmechanismen vorhanden. „Die Möglichkeit, den Sensor auf Anfrage auszuschalten, war von Anfang an eingebaut. Ebenso war die Möglichkeit, jeden einzelnen Sensor auf jedem Mites-Board ein- und auszuschalten, von Anfang an eingebaut“, schrieben sie in einer E-Mail .

Details zu Chinas neuer nationaler Datenverwaltung stehen noch aus, einschließlich der Frage, wie viel Kontrolle sie über Datensicherheit und Datenschutz haben wird.

Doch obwohl die Funktionalität vorhanden war, wurde sie der Abteilung nicht gut kommuniziert, wie ein interner Slack-Austausch zeigte. „Die einzige allgemeine E-Mail, die gesendet wurde, enthielt kein Verfahren zum Deaktivieren“, bemerkte Aldrich.

Studierende, mit denen wir gesprochen haben, betonten die Realität, dass die Aufforderung an sie, sich von einem hochkarätigen Forschungsprojekt abzumelden, anstatt ihnen die Möglichkeit zu geben, sich dafür zu entscheiden, die Machtdynamik an Universitäten nicht berücksichtigt. In einer E-Mail an MIT Technology Review sagte Widder, er glaube nicht, dass die Option, sich per E-Mail-Anfrage abzumelden, gültig sei, weil viele Bewohner des Gebäudes sich dessen nicht bewusst seien und weil durch die Abmeldung jeder identifiziert würde, der grundsätzlich mit der Untersuchung nicht einverstanden sei.

Aldrich war außerdem besorgt über die Technologie selbst.

„Können Sie … Sprache aus dem, was sie getan haben, rekonstruieren? Es gibt genug Teile, dass es theoretisch möglich ist“, sagt er. „Das [Forschungsteam] hält es für unmöglich, aber wir haben keinen Beweis dafür, oder?“

Aber eine zweite Sorge war sozialer Natur: Aldrich sagt, dass ihm das Projekt nichts ausmachte, bis ein Kollege außerhalb der Abteilung darum bat, sich wegen der Sensoren nicht in der TCS-Halle zu treffen. Das änderte seine Meinung. „Möchte ich wirklich etwas in meinem Büro haben, das einen Kollegen davon abhält, in mein Büro zu kommen und sich mit mir zu treffen? Die Antwort war ziemlich klar: Nein. Wie auch immer ich mich dabei fühlte, ich wollte nicht, dass es ein …“ „Ich schrecke jemanden ab, der sich mit mir in meinem Büro trifft, oder dass er sich unwohl fühlt“, sagt er.

Das Mites-Team stellte rund um das Gebäude Schilder auf – in Fluren, öffentlichen Bereichen, Treppenhäusern und einigen Räumen –, auf denen erklärt wurde, um welche Geräte es sich handelte und was sie sammeln würden. Schließlich fügten die Forscher einen QR-Code hinzu, der auf das 20-seitige FAQ-Dokument des Projekts verlinkte. Bei den Schildern handelte es sich um kleine, laminierte Papiere im Letter-Format, von denen einige Besucher sagten, sie seien leicht zu übersehen und schwer zu verstehen.

„Als ich das sah, dachte ich nur: Wow, das ist nur eine sehr kurze Beschreibung dessen, was vor sich geht“, bemerkte einer dieser Besucher, Se A Kim, ein Bachelor-Student, der im Frühjahr 2022 mehrmals die TCS Hall besuchte Entwerfen Sie eine Schulaufgabe, um herauszufinden, wie Besucher auf die Datenerfassung in den öffentlichen Räumen von TCS aufmerksam gemacht werden können. Als sie einige von ihnen interviewte, war sie überrascht, wie viele noch immer nichts von den Sensoren wussten.

Eine von Mites-Gegnern immer wieder geäußerte Sorge besteht darin, dass selbst wenn die aktuelle Mites-Implementierung nicht darauf ausgelegt ist, die sensibelsten Daten wie Fotos oder Videos zu sammeln, und auch nicht dazu gedacht ist, Einzelpersonen zu identifizieren, dies wenig darüber aussagt, welche Daten gesammelt werden könnten – oder was mit denen Daten möglicherweise in Zukunft kombiniert werden. Datenschutzforscher haben wiederholt gezeigt, dass aggregierte, anonymisierte Daten leicht deanonymisiert werden können.

Dies ist am häufigsten bei weitaus größeren Datensätzen der Fall, die beispielsweise von Smartphones erfasst werden. Apps und Websites verfügen möglicherweise nicht über die Telefonnummer oder den Namen des Telefonbesitzers, haben jedoch häufig Zugriff auf Standortdaten, die es einfach machen, diese identifizierenden Details zurückzuentwickeln. (Mites-Forscher haben inzwischen die Art und Weise geändert, wie sie mit der Datenerfassung in Privatbüros umgehen, indem sie mehrere Büros gruppiert haben. Dies macht es schwieriger, das Verhalten einzelner Bewohner zu ermitteln.)

Abgesehen von der Möglichkeit einer erneuten Identifizierung, wer genau auf die Daten eines Benutzers zugreifen kann ist bei IoT-Geräten oft unbekannt – sei es aus Versehen oder aufgrund des Systemdesigns. Es kommt zu zahlreichen Vorfällen, bei denen Smart-Home-Geräte von Verbrauchern, von Babyphones über Google Home-Lautsprecher bis hin zu Staubsaugerrobotern, gehackt wurden oder deren Daten ohne Wissen oder Zustimmung der Nutzer weitergegeben wurden.

Das Mites-Forschungsteam war sich dieser bekannten Datenschutzprobleme und Sicherheitsverletzungen bewusst, aber im Gegensatz zu ihren Kritikern, die diese Präzedenzfälle als Grund sahen, der Installation noch leistungsfähigerer IoT-Geräte nicht zu vertrauen, sahen Agarwal, Boovaraghavan und Harrison sie als Grund, der Installation noch leistungsfähigerer IoT-Geräte nicht zu vertrauen Motivation, etwas Besseres zu schaffen. „Alexa und Google Homes sind wirklich interessante Technologien, aber manche Leute lehnen sie ab, weil dieses Vertrauen gebrochen ist“, sagt Harrison. Seiner Meinung nach bestand die Aufgabe der Forscher darin, herauszufinden, wie man ein neues Gerät baut, das von Anfang an vertrauenswürdig ist.

Im Gegensatz zu den Vorgängergeräten würden sie die Privatsphäre schützen.

Im Frühjahr 2021 erhielt Widder einen Brief, in dem ihm mitgeteilt wurde, dass gegen ihn wegen mutmaßlichen Fehlverhaltens wegen Manipulation der Computerausrüstung der Universität ermittelt werde. Es warnte ihn auch davor, dass sein Verhalten als Mobbing angesehen werden könnte.

Abteilungsweite E-Mail-Threads, die mit MIT Technology Review geteilt wurden, deuten darauf hin, wie persönlich die Milbendebatte geworden war – und wie Widder in den Augen einiger seiner Kollegen zum Bösewicht geworden war. „Es ist *nicht ethisch*, wenn Menschen ihre Sensoren selbstständig ausbauen (was nützen diese intensiven Gespräche, wenn wir die Dinge einfach selbst in die Hand nehmen?) und andere in den sozialen Medien posten“, schrieb ein Professor. (Obwohl der Professor Widder nicht namentlich nannte, war allgemein bekannt, dass er beides getan hatte.)

„Ich glaube schon, dass sich hier einige Leute gemobbt gefühlt haben, und das nehme ich mir zu Herzen“, sagt Widder, fragt sich aber auch: „Was sagt es über unser Fachgebiet aus, wenn wir es nicht gewohnt sind, solche Diskussionen zu führen und … wenn wir …“ tun, werden sie entweder nicht ernst genommen oder … als Mobbing empfunden?“ (Die Forscher antworteten nicht auf Fragen zu den Mobbingvorwürfen.)

Die Disziplinarmaßnahme wurde fallen gelassen, nachdem Widder die Sensoren wieder angeschlossen und sich entschuldigt hatte, aber für Aldrich „funktioniert der Brief dazu, David dafür zu bestrafen, dass er sich zu einem Thema geäußert hat, das für die Fakultät unbequem ist, und um Kritik von ihm und anderen zum Schweigen zu bringen.“ in der Zukunft", wie er in einer offiziellen Antwort auf Widders Doktorgutachten schrieb.

Herbsleb, der Abteilungsleiter und Widders Berater, lehnte es ab, sich zu dem zu äußern, was er als „privates internes Dokument“ bezeichnete, und verwies auf die Privatsphäre der Studierenden.

Während Widder glaubt, dass er für seine Kritik bestraft wurde, hatten die Forscher einige dieser Kritiken bereits berücksichtigt. Beispielsweise boten die Forscher den Bewohnern von Gebäuden an, die Mites-Sensoren in ihren Büros auszuschalten, indem sie per E-Mail darum baten, sich abzumelden. Im öffentlichen Raum blieb dies jedoch weiterhin unmöglich, auch weil „wir überhaupt nicht wissen können, wer sich im öffentlichen Raum aufhält“, erklärten uns die Forscher.

Bis Februar 2023 hatten Bewohner von neun von 110 Büros den Forschern geschrieben, sie sollten die Mites-Sensoren in ihren eigenen Büros deaktivieren – darunter Widder und Aldrich.

Die Forscher verweisen auf diese geringe Zahl als Beweis dafür, dass die meisten Menschen mit Milben einverstanden sind. Aber Widder ist anderer Meinung; Alles, was es beweist, sagt er, ist, dass die Leute gesehen haben, wie es zu Vergeltungsmaßnahmen gegen ihn gekommen ist, weil er seine eigenen Mites-Sensoren entfernt hat, und dass sie davon abgehalten wurden, darum zu bitten, dass ihre Sensoren ausgeschaltet werden. „Ob dies als Zwang gedacht war oder nicht, ich denke, es hat diese Wirkung“, sagt er.

An einem regnerischen Tag im vergangenen Oktober argumentierte das Mites-Forschungsteam in einem gläsernen Konferenzraum im vierten Stock der TCS Hall, dass die schwelenden Spannungen über ihr Projekt – die hitzigen und manchmal persönlichen E-Mails aller Abteilungen, der Slack-Austausch und die Bürgerversammlungen – waren ein normaler Teil des Forschungsprozesses.

„Vielleicht sehen Sie diese Zwietracht … durch eine negative Linse; das tun wir nicht“, sagte Harrison.

„Ich finde es großartig, dass wir ein Projekt fördern konnten, bei dem Menschen legitimerweise … Probleme damit ansprechen können … Das ist eine gute Sache“, fügte er hinzu.

„Ich hoffe, dass wir den Höhepunkt dafür erreichen, wie wir diese [Sensorforschung] auf sehr bewusste Weise durchführen können“, sagte Agarwal.

Andere Fakultätsmitglieder – selbst diejenigen, die zu überzeugten Befürwortern des Mites-Projekts geworden sind, wie Lorrie Cranor, Professorin für Datenschutztechnik und renommierte Datenschutzexpertin – sagen, dass die Dinge anders hätten gemacht werden können. „Im Nachhinein hätte es im Vorfeld mehr Kommunikation geben sollen“, räumt Cranor ein – und diese Gespräche hätten andauern sollen, damit aktuelle Studierende daran teilnehmen könnten. Aufgrund der natürlichen Fluktuation in der akademischen Welt, sagt sie, hätten viele von ihnen nie die Gelegenheit gehabt, sich an diesen Diskussionen zu beteiligen, obwohl langjährige Dozenten bereits vor Jahren über das Projekt informiert worden seien.

Sie hat auch Vorschläge, wie das Projekt verbessert werden könnte. „Vielleicht brauchen wir einen Mites-Sensor in einem öffentlichen Bereich, der an ein Display angeschlossen ist, das Ihnen einen Livestream liefert, und Sie können auf und ab springen und pfeifen und alle möglichen Dinge davor tun und sehen, welche Daten durchkommen.“ " Sie sagt. Oder lassen Sie die Leute die Daten herunterladen und herausfinden: „Was können Sie daraus rekonstruieren? … Wenn es möglich ist, es zurückzuentwickeln und etwas herauszufinden, wird das wahrscheinlich jemand hier tun.“ Und wenn nicht, sind die Leute möglicherweise eher geneigt, dem Projekt zu vertrauen.

Die Geräte könnten auch über einen Ein-Aus-Schalter verfügen, räumt Herbsleb, der Abteilungsleiter, ein: „Ich denke, wenn diese Bedenken früher erkannt worden wären, hätte Yuvraj [Agarwal] es sicher so entworfen.“ (Widder ist immer noch der Meinung, dass die Geräte einen Aus-Schalter haben sollten.)

Für Kritiker ändern diese tatsächlichen und vorgeschlagenen Verbesserungen jedoch nichts an der Tatsache, dass „die öffentliche Diskussion eher aufgrund einer Kontroverse stattfindet als zuvor“, sagt Aronson.

Die Forschungsverbesserungen nehmen auch nicht das weg, was Widder erlebt hat. „Als ich Bedenken geäußert habe, besonders zu Beginn“, sagt er, „wurde ich als Aufmerksamkeitssucher behandelt … als Tyrann, als Vandale. Und wenn die Leute jetzt behaupten, dass dies den Prozess verbessert hat?“ Er hält frustriert inne. "Okay."

Abgesehen von Verbesserungen im Forschungsprozess an der CMU bleibt außerdem die Frage, wie die Technologie in der realen Welt eingesetzt werden könnte. Diese kommerzialisierte Version der Technologie könnte über „höherwertige Kameras und höherwertige Mikrofone sowie mehr Sensoren und … mehr eingesaugte Informationen“ verfügen, bemerkt Aronson. Bevor so etwas wie „Mites“ der Öffentlichkeit vorgestellt wird, „müssen wir eine umfassende Diskussion darüber führen“, ob es notwendig oder erwünscht ist, sagt er.

„Das große Ganze ist: Können wir den Arbeitgebern oder den Unternehmen, die diese Geräte herstellen, vertrauen, dass sie sie nicht dazu verwenden, uns auszuspionieren?“ fügt Aldrich hinzu. „Einige Arbeitgeber haben bewiesen, dass sie dieses Vertrauen nicht verdienen.“

Die Forscher glauben jedoch, dass es verfrüht sein könnte, sich Gedanken über kommerzielle Anwendungen zu machen. „Das ist Forschung, kein kommerzielles Produkt“, schrieben sie in einer E-Mail-Erklärung. „Die Durchführung dieser Art von Forschung in einer streng kontrollierten Umgebung ermöglicht es uns, zu lernen und Entdeckungen und Innovationen voranzutreiben. Das Mites-Projekt befindet sich noch in der Anfangsphase.“

Aber es gibt ein Problem mit diesem Rahmen, sagt Aronson. „Der Versuchsort ist kein Labor oder eine Petrischale. Es ist keine Simulation. Es ist ein Gebäude, in das echte Menschen jeden Tag gehen und ihr Leben leben.“

Widder, der lautstärkste Kritiker des Projekts, kann sich ein alternatives Szenario vorstellen, in dem er möglicherweise anders über Mites hätte denken können, wenn es partizipatorischer und „kollaborativer“ gewesen wäre. Vielleicht, so schlägt er vor, hätten die Forscher die Geräte zusammen mit einer Einführung und einer Anleitungsbroschüre auf den Schreibtischen der Abteilungsmitglieder lassen können, damit diese entscheiden könnten, ob sie teilnehmen wollten. Dies hätte sichergestellt, dass die Recherche „auf der Grundlage des Prinzips der Opt-in-Einwilligung erfolgte, diese überhaupt im Büro zu haben“. Mit anderen Worten: Er glaubt nicht, dass technische Funktionen wie Verschlüsselung und Edge Computing eine sinnvolle Einwilligung ersetzen können.

Aber selbst solche Anpassungen würden Widders Gefühle nicht grundlegend ändern. „Ich bin nicht bereit, die Prämisse einer Zukunft zu akzeptieren, in der es überall all diese Arten von Sensoren gibt“, sagt er.

Es ist unwahrscheinlich, dass die 314 Milben, die in den Wänden und Decken der TCS-Halle verbleiben, herausgerissen werden. Auch wenn der Streit um dieses Projekt vielleicht schon vorbei ist, stehen die Debatten über den Datenschutz erst am Anfang.

Update: Diese Geschichte wurde mit Details zum Rathaus im April aktualisiert.

„Ich habe plötzlich meine Meinung darüber geändert, ob diese Dinger intelligenter sein werden als wir.“

Der Reiz des Arbeitsplatz-Tools geht weit über die Organisation von Arbeitsprojekten hinaus. Viele Nutzer empfinden es als ebenso nützlich für die Verwaltung ihrer Freizeit.

In der Vergangenheit haben Bemühungen zum Erlernen des Codierens nur wenigen Möglichkeiten geboten, doch neue Bemühungen zielen darauf ab, integrativ zu sein.

Hinton wird am Mittwoch bei EmTech Digital sprechen.

Entdecken Sie Sonderangebote, Top-Storys, bevorstehende Veranstaltungen und mehr.

Vielen Dank für das Absenden Ihrer E-Mail!

Es sieht so aus, als wäre etwas schief gelaufen.

Beim Speichern Ihrer Einstellungen ist ein Problem aufgetreten. Versuchen Sie, diese Seite zu aktualisieren und sie noch einmal zu aktualisieren. Wenn Sie diese Nachricht weiterhin erhalten, wenden Sie sich an [email protected] mit einer Liste der Newsletter, die Sie erhalten möchten.