Sprachassistenz: Reichweite & Grenzen

Nutzen & Missbrach

• Welcher Nutzen lässt sich aus der Funktionsweise von Sprachassistenten ableiten?
• Welche Missbrauchspotentiale sind denkbar?
  • Im Einzelfall?
  • Im Systematischen Datenbezug?
  • Im Zusammenhang mit weiteren Daten (z.B. Einkommen, Mobilitätsdaten)

• ITA - Institut für Technikfolgen Abschätzung (2019) Digitale Assistenten. Projektbericht.

Schwachstellen

• Welche Schwachstellen gibt es im System?
  • Technisch?
  • Menschlich?

• Sugawara, Takeshi; Cyr, Benjamin, Rampazzi, Sara, Genkin, Daniel, Fu, Kevin (2021) Lightcommands.

Datenschutz

• Was bedeutet es für den Datenschutz, wenn Menschen die Daten von Sprachassistenten auswerten? (vgl. HmbBfDI 2019)
• Digitale Assistenten - Projektbericht (ITA 2019)

• HmbBfDi (2019) Sprachassistenzsysteme auf dem Prüfstand - Datenschutzbehörde eröffnet Verwaltungsverfahren gegen Google.
• ISiCO (2020) Sprachassistenten im Gesundheitswesen: Datenschutzbedenken?
• Josh (2013) 30c2 - Überwachen und Sprache.
• Strauss, Kathrin (2020) Datenschutz bei Sprachassistenten wie Alexa, Siri & Co. - Orwells Graus

Entscheidungsfindung

• Wie werden Entscheidungen getroffen?
• Wie werden Entscheidungen beeinflusst?
• Mit welcher Transparenz wird auf die Entscheidung eingewirkt?

• Biselli, Anna (2018) 35c3 - Computer, die über Asyl (mit)entscheiden.

Quellen:

• Biselli, Anna (2018) 35c3 - Computer, die über Asyl (mit)entscheiden.
• HmbBfDi (2019) Sprachassistenzsysteme auf dem Prüfstand - Datenschutzbehörde eröffnet Verwaltungsverfahren gegen Google.
• ISiCO (2020) Sprachassistenten im Gesundheitswesen: Datenschutzbedenken?
• ITA - Institut für Technikfolgen Abschätzung (2019) Digitale Assistenten. Projektbericht.
• Josh (2013) 30c2 - Überwachen und Sprache.
• Strauss, Kathrin (2020) Datenschutz bei Sprachassistenten wie Alexa, Siri & Co. - Orwells Graus
• Sugawara, Takeshi; Cyr, Benjamin, Rampazzi, Sara, Genkin, Daniel, Fu, Kevin (2021) Lightcommands.