Google macht viele dumme Dinge. In dieser Hinsicht sind alle Großkonzerne gleich. Aber es erfordert besondere Anstrengung, etwas wirklich Schreckliches zu tun. Hier kommt Googles Project Nimbus ins Spiel.
Projekt Nimbus ist eine gemeinsame Initiative von Google, Amazon und der israelischen Regierung, die durch den Einsatz fortschrittlicher Modelle für maschinelles Lernen zukunftsweisende Überwachungsfunktionen bereitstellt. Ob es Ihnen gefällt oder nicht, das ist Teil der Zukunft der Staatssicherheit und nicht schrecklicher als viele andere ähnliche Projekte. Viele von uns nutzen sogar ähnliche Technologien in und um unsere Häuser.
Wo es düster und hässlich wird, sagt Google über die Fähigkeiten von Project Nimbus, die die Technologie des Unternehmens nutzen:
Nimbus-Schulungsdokumente betonen „die Erkennungsfunktionen von Googles Cloud Vision API für Gesichter, Gesichtsmerkmale und Emotionen“, und zwar in einer Nimbus-Schulung In einem Webinar bestätigte ein Google-Ingenieur für einen israelischen Kunden, dass es möglich sei, „Daten über Nimbus zu verarbeiten, um festzustellen, ob jemand dies tut.“ lügnerisch".
Ja, das Unternehmen, das uns die unglaublich schlechten YouTube-Algorithmen gegeben hat, möchte jetzt Algorithmen verkaufen, um festzustellen, ob jemand die Polizei anlügt. Lassen Sie das sinken. Das ist eine Wissenschaft, die Microsoft hat aufgegeben wegen seiner inhärenten Probleme.
Leider ist Google so sehr anderer Meinung, dass dies der Fall ist Vergeltungsmaßnahmen gegen Personen im Unternehmen die dagegen sprechen.
Es gibt keinen guten Grund, diese Art von Technologie einer Regierung in irgendeiner Größenordnung zur Verfügung zu stellen.
Ich werde mich nicht zu sehr mit der Politik befassen, die hier im Spiel ist, aber das gesamte Projekt wurde so konzipiert, dass die israelische Regierung verbergen kann, was sie tut. Laut Jack Poulson, ehemaliger Sicherheitschef von Google Enterprise, ist eines der Hauptziele von Project Nimbus die „Verhinderung“. die Bundesregierung davon abzuhalten, Daten über die israelischen Streitkräfte für den Internationalen Strafgerichtshof anzufordern Zu Der Abfang. (Israel soll nach der Auslegung einiger Gesetze Verbrechen gegen die Menschlichkeit an Palästinensern begehen.)
Dabei spielt es eigentlich keine Rolle, was man zum Konflikt zwischen Israel und Palästina denkt. Es gibt keinen guten Grund, diese Art von Technologie einer Regierung in irgendeiner Größenordnung zur Verfügung zu stellen. Dies macht Google teuflisch.
Die angeblichen Fähigkeiten von Nimbus sind beängstigend, selbst wenn die Cloud Vision API von Google in 100 % der Fälle zu 100 % korrekt war. Stellen Sie sich Körperkameras der Polizei vor, die mithilfe von KI entscheiden, ob Sie angeklagt und verhaftet werden sollen oder nicht. Alles wird erschreckend, wenn man bedenkt, wie oft Bildverarbeitungssysteme für maschinelles Lernen machen Dinge falsch, obwohl.
Das ist nicht nur ein Google-Problem. Alles, was Sie tun müssen, ist, sich um die Moderation von Inhalten auf YouTube, Facebook oder Twitter zu kümmern. 90 % der anfänglichen Arbeit wird von Computern erledigt, die Moderationsalgorithmen verwenden, die viel zu häufig falsche Entscheidungen treffen. Project Nimbus würde jedoch mehr tun, als nur Ihren bissigen Kommentar zu löschen – es könnte Sie das Leben kosten.
Kein Unternehmen kann diese Art von KI anbieten, bis die Technologie so weit ausgereift ist, dass sie niemals falsch ist, und das wird auch nie passieren.
Schauen Sie, ich bin wie die meisten anderen dafür, die Bösewichte zu finden und etwas gegen sie zu unternehmen. Ich verstehe, dass die Strafverfolgung, sei es eine örtliche Polizeibehörde oder die IDF, ein notwendiges Übel ist. Der Einsatz von KI hierfür ist eine unnötig teuflisch.
Ich sage nicht, dass Google sich nur darauf beschränken sollte, die Software zu schreiben, die das antreibt Telefone, die du liebst und nicht versuchen, sich zu verzweigen. Ich sage nur, dass es einen richtigen und einen falschen Weg gibt – Google hat hier den falschen Weg gewählt, und jetzt steckt es fest, weil Die Bedingungen der Vereinbarung erlauben es Google nicht, die Teilnahme zu beenden.
Man sollte sich eine eigene Meinung bilden und niemals jemandem im Internet zuhören, der eine Seifenkiste hat. Aber Sie sollten auch gut informiert sein, wenn ein Unternehmen, das auf dem Grundsatz „Don't Be Evil“ gegründet wurde, den Kreis schließt und zu dem Bösen wird, vor dem es uns gewarnt hat.