Hat ein digitaler persönlicher Assistent ethische Verantwortung?

Ein Freund von mir schloss sich schließlich den Reihen an und kaufte ein Google Home. Hauptsächlich, weil sie im Ausverkauf waren, aber auch, weil sie unsere Frau und ich gelegentlich benutzt hat und ihre Neugier sie schließlich überwältigte. Auf jeden Fall hat sie jetzt eine kleine Roboter-KI auf ihrem Couchtisch, die ihr das Wetter oder ihren Zeitplan mitteilen kann Spielen Sie den Tag, spielen Sie Musik auf Abruf und schalten Sie das Licht auf der Veranda per Sprachbefehl ein und haben Sie Spaß damit Es. Ich gehe davon aus, dass jeder, der ein Google Home bzw Amazon Echo Das Gerät hatte eine ähnliche Flitterwochenphase, bevor es zur Routine wurde.

Sollten wir einer KI vertrauen, dass sie den richtigen Anruf bei den richtigen Leuten tätigt?

Sie weiß auch, dass ich ziemlich versiert bin, wenn es darum geht, wie Google-„Zeug“ funktioniert (ihre Worte) und wollte wissen, ob es das nennen könnte Polizisten, weil es „dachte“ (diesmal stammen die Zitate von mir), dass ein Verbrechen begangen wurde oder eine gefährliche Situation herrschte spielen. Ich ließ sie wissen, dass dies nicht möglich sei und dass es nichts verarbeiten oder hochladen würde, es sei denn, es würde ein Hotword erkennen Ich konnte es hören, aber ich wäre vorsichtig, wenn ich dumme Fragen stelle, die einen in Schwierigkeiten bringen könnten Prinzip. Sie schien... enttäuscht.

Mehr: Was bedeutet ein „Always Listening“-Smart-Lautsprecher wirklich?

„Warum um alles in der Welt willst du, dass es alles Verdächtige melden kann“, fragte ich. Legen Sie nicht mehr Wert auf Ihre Privatsphäre? Sie antwortete schnell mit einem „Ja, aber“ und erklärte dann, dass sie allein lebe und völlig in Ordnung wäre, wenn sie eine potenziell gefährliche Situation einschätzen und eine Art Notruf absetzen könnte. Wir haben die Vor- und Nachteile besprochen und uns gegenseitig die Argumente zugehört – am Ende ging es um die Kindersicherheit, wie so vieles auch – und ich gebe zu, ihre Argumentation war solide, auch wenn ich anderer Meinung bin.

Ich möchte kein kleines Gerät, das auf einem Tisch steht und entscheidet, ob es den Notruf 911 benötigt. Punkt, Punkt. Ich vertraue nicht darauf, dass es zum richtigen Zeitpunkt richtig ist, und ich möchte auch nicht, dass mir diese Entscheidung abgenommen wird, selbst wenn ich nicht jedes Mal die richtige Entscheidung treffen würde. Ich halte mich für ziemlich intelligent und in der Lage, schnell ein Urteil zu fällen, auch wenn ich weiß, dass diese Entscheidung manchmal falsch sein kann. Ich denke auch, dass ein Algorithmus entwickelt werden könnte, der Besonderheiten erkennt und in den meisten Fällen auch die richtige Entscheidung trifft. Trotzdem möchte ich immer noch keine Technologie, die mein bisschen Privatsphäre in meinem eigenen Zuhause verdrängt, egal unter welchen Umständen.

Ihre Argumente, von denen ich noch einmal zugeben muss, dass sie stichhaltig sind, befassen sich mit unappetitlichen Themen wie einem missbräuchlichen Partner oder Elternteil und der Idee eines Einbruchsszenarios. Der Punkt, an dem ich innehalten musste, war, als sie fragte, ob ich diese Funktion gerne hätte, wenn meine Frau allein wäre oder für meine Töchter. Ich versuche, in allen Dingen aufgeschlossen zu sein, bin aber immer noch Ehemann und Vater und kann nicht anders, als ein bisschen beschützerisch zu sein, also musste ich zugeben, dass ich es damals nicht so sehr hassen würde.

Ich schätze Privatsphäre über alles andere, aber wenn es um meine Familienmitglieder geht, muss ich innehalten.

Ich bin nicht hin- und hergerissen – ich glaube nicht, dass ein digitaler persönlicher Assistent die Möglichkeit haben sollte, mitzuhören, außer wenn ein Hotword gehört und verarbeitet wird. Ich verstehe, dass jemand in Schwierigkeiten möglicherweise nicht in der Lage ist, Google oder Alexa um Hilfe zu bitten, aber ich denke immer noch, dass es das geringere Übel ist, wenn er nicht dazu in der Lage ist. Aber da die Technologie immer persönlicher wird, sind diese Arten von Gesprächen notwendig. Der Gesetzgeber und die Unternehmen, die sie herstellen, müssen sich aber darüber klar werden Wir Wir müssen auch diskutieren, wie viel Einfluss jede Art von intelligenter Elektronik auf unser Leben haben sollte.

Ich bin mit dem aktuellen Zustand einverstanden und hoffe das keiner ist immer die Antwort auf diese Frage. Ich bin gespannt, was Sie denken. Sollte ein Google Home in der Lage sein, die Polizei zu rufen und Missbrauch zu melden? Was ist mit anderen Situationen wie Diskussionen über Gewalt? Eine größere Frage könnte sein, ob man die Möglichkeit haben sollte, jemanden zu überprüfen und zu melden, der gesucht wird, da er unsere Identität kennt. Ich erwarte viele reflexartige Reaktionen auf diese Fragen – ich hatte auf jeden Fall meine eigenen –, aber hoffentlich können wir auch eine ernsthafte Diskussion führen.

Klicken Sie auf die Kommentare und sagen Sie mir, was Sie denken.