Jump to content
der.enforcer

Künstliche Intelligenz - Fluch oder Segen?

Recommended Posts

Gude!

Künstliche Intelligenz (AI/KI) ist ja ein Trendthema in der Industrie aber auch mittlerweile in vielen Wohnzimmern zu finden, bzw. schleicht diese sich ja auch zunehmend in den privaten Bereich (Spiele, aber auch Bild- und Texterkennung, Sprachassistenten uvm.).

Während es im Privaten noch eher Spielereien sind (Alexa, Siri, Cortana und Co.) wird es in der Industrie schon langsam ernster: KI hilft vielen meiner Kunden beim Analysieren von Daten oder auch für Wartungsaufgaben (aktuelles Beispiel eines meiner persönlichen Kunden: Drone fliegt über Hochspannungsmasten und überprüft anhand von Bilderkennung und cognitive services die Güte der Bauteile und kann ggf. Wartungsarbeiten veranlassen). 

Auf lange Sicht wird es sehr viele Bereiche (bzw. Berufsgruppen) geben, die für den Einsatz von KI in Frage kommen. Dadurch werfen sich ja einige Fragen auf:

1. Ethik - was DARF künstliche Intelligenz überhaupt und welche Problemstellungen ergeben sich hieraus? Wer kontrolliert das und wer steuert ggf gegen? Die Verantwortung hier ist sicherlich sehr hoch, da man als Menschheit ja stets die Kontrolle über die Maschinen behalten muss und möchte. Wenn aber nun künftig viele Entscheidungen von Algorithmen getroffen werden, kann das echte Auswirkungen auf den Menschen haben. Beispiel: Kreditvergabe anhand von Big Data ohne den menschlichen Bankberater, der einem da ggf. hilft weil man eine lange Kundenbeziehung hat. Von skynet und dem Terminator will ich an dieser Stelle gar nicht anfangen... Oder bremst mein Tesla in einer Notsituation für ein Kind oder eine Oma und nimmt ggf. in Kauf dass ich selbst dabei verletzt werde?

2. Arbeitsplätze - ist mein Job denn auch künftig noch sicher? Kann ich meine freigewordene Zeit dann anders/sinnvoller nutzen (z.B: schwierigere und komplexere Themen bearbeiten und die "no-brainer" vom Computer erledigen lassen? In Japan gibt es z.B. schon erste Pflegeroboter, die sich um alte und kranke kümmern. 

3. Lebenshilfe für Menschen - bereits heute haben wir bei Microsoft z.B. eine AR Brille (augmented reality: Einblendungen von Grafiken und Ton ins reale Bild), mit deren Hilfe blinde Menschen die Umgebung scannen können und von der Brille gesagt bekommen, was um sie herum passiert. Siehe hier: 

übrigens: im AppStore von Apple könnt ihr nach "seeing AI" suchen und euch dort die App aus der Brille aufs smartphone installieren und damit spielen, kostet auch nichts. Am PC gibt es im Windows Store auch entsprechende Apps, die die cognitive services von Azure (Microsofts Cloud) verfügbar machen.

oder hier:

https://www.microsoft.com/en-us/ai/ai-for-humanitarian-action

KI wird genutzt, um auf Naturkatastrophen zu reagieren oder um die medizinische Forschung voranzutreiben.

4. Bildung und Wissenschaft - nehmen wir mal das JFK Files Project. letztes Jahr wurden sämtliche FBI und andere Regierungsakten zum Mord an JFK öffentlich gemacht. Microsoft hat ein Projekt gestartet, mit Hilfe von KI alle diese Akten zu analysieren und auch schwierige, handschriftliche Akten lesbar zu machen und hat diese mit Schlagworten und Index versehen. Jeder Mensch ist nun in der Lage, sich einfach selbst durch diese Aktenberge zu lesen und die Ermittlungen nachvollziehbar zu machen.

https://blogs.technet.microsoft.com/machinelearning/2017/11/15/gain-insights-into-the-jfk-files-with-azure-search-and-cognitive-services/

 

Das sind ja nur einige der Möglichkeiten (und auch andere Unternehmen als Microsoft setzen KI gewinnbringend für die ganze Menschheit ein - und nicht nur für kommerzielle Zwecke!) und die Einsatzszenarien sind quasi unendlich. Wichtig ist eben, dass die Allgemeinheit was davon haben sollte und diese mächtige Technologie nicht nur zu kommerziellen Zwecken genutzt wird.

Wie denkt ihr darüber? Fluch oder Segen? Wirklich sinnvolle Entwicklungsstufe oder eher eine kapitalistische Geißel der Menschheit?

Ich finde das Thema jedenfalls äußerst spannend und bin froh, mich auch beruflich mit solchen Dingen auseinander setzen zu können und ganz dicht dran zu sein.

Share this post


Link to post
Share on other sites

Ich bin zwar im Kern ein großer Verfechter der KI und denke nicht das sich daraus eine Art „Skynet“ entwickeln könnte, allerdings ist das so ähnlich als würde ein Mensch aus dem 18. Jahrhundert behaupten, dass die Luftfahrt sich unmöglich zu etwas entwickeln wird was imstande ist die ganze Welt auszuradieren (-aka ICBMs). Vom damaligen Standpunkt aus betrachtet eine durchaus verständlich Annahme, 250 Jahre später…nicht!

Die Frage ist nicht unbedingt welche Aufgaben man einer KI zutraut, sondern wieviel Verantwortung man ihr überträgt. Denn es besteht immer auch die Gefahr das rein aus der Bequemlichkeit heraus schwierige Entscheidungen an eine KI übergeben werden und wenn man sich an so eine Vorgehensweise erstmal gewöhnt hat, kann das eine Abwärtsspirale werden. Unter anderem wird dann bspw. Krieg noch abstrakter als er jetzt schon ist. Ich denke da an autonome Drohnen in Kriegsgebieten, die einsam ihre Bahnen ziehen und durch Analyse und Datenalgorithmen Ziele auswählen und bekämpfen und je besser die KI wird, desto stärker ist man versucht ihr freie Hand zu lassen.  

Kurzum, wo fängt es an und wo hört es auf, oder um es etwas theatralischer zu sagen…Der Weg in die Hölle ist mit guten Absichten gepflastert.

Letztendlich das aber nur ein Gedankenspiel und die Möglichkeiten für einen positiven Einsatz und eine echte Verbesserung des Lebens mittels KI sind mindestens genauso zahlreich wie es negative Szenarien gibt.  

Deus ex Machina?...mal sehen.

Edited by Underdog
  • Like 1

Share this post


Link to post
Share on other sites

Ki ist es erst für mich wenn sie Lernfähig ist oder selbstständig Entscheidungen treffen kann aus den Erfahrungen die es selber gemacht hat oder die gemacht wurden von anderen KIs (yay Skynet). Alles andere ist ein billiger Algorithmus der runtergezuckelt und per kalter Wahrscheinlichkeit das "Entscheidungsereignis" triggert. 

Alexa und Co sind einfach nur der feuchte Traum jeder Stasi :derb:

Share this post


Link to post
Share on other sites

Naja, lernfähig ist sie ja heute bereits und durch immer komplexere neuronale Netze auch stets effektiver darin.

das mit der Verantwortung ist tatsächlich ein Dilemma, denn letztlich wird es genau darauf hinauslaufen dass die unbequemen Dinge abgedrückt werden. 

Die Ethik rund um diese Fragen wird schwieriger zu beantworten sein als die technische Einsetzbarkeit überhaupt.

Share this post


Link to post
Share on other sites
SirGutz, vor 59 Minuten:

Ki ist es erst für mich wenn sie Lernfähig ist oder selbstständig Entscheidungen treffen kann aus den Erfahrungen die es selber gemacht hat oder die gemacht wurden von anderen KIs (yay Skynet). Alles andere ist ein billiger Algorithmus der runtergezuckelt und per kalter Wahrscheinlichkeit das "Entscheidungsereignis" triggert. 

Du sprichst vielmehr von einem "Bewusstsein", dass muss aber nicht zwangläufig Bestandteil einer KI sein. Eine hochentwickelte KI die letztlich "nur" 1+1 ausrechnet, könnte dennoch eine komplette Stadt steuern und verwalten und das besser als jeder Mensch....um darin die Macht zu ergreifen, wäre dann allerdings erstgenanntes zwingende Voraussetzung. >:D 

 

Share this post


Link to post
Share on other sites
Underdog, vor einer Stunde:

Du sprichst vielmehr von einem "Bewusstsein", dass muss aber nicht zwangläufig Bestandteil einer KI sein. Eine hochentwickelte KI die letztlich "nur" 1+1 ausrechnet, könnte dennoch eine komplette Stadt steuern und verwalten und das besser als jeder Mensch....um darin die Macht zu ergreifen, wäre dann allerdings erstgenanntes zwingende Voraussetzung. >:D 

 

Hmm nicht unbedingt wenn die KI die schlussfolgerung anhand ihrer bisherigen Erfahrungen macht dass die meisten probleme am effizientesten gelöst werden können wenn sie die macht übernimmt, dann würde sie das vermutlich auch tun ;) Is ja nicht so dass die KI in dota 2 genau solche ansätze bereits hat. Spielt 1000000 senarien durch und entscheidet dann was die beste handlung aufgrund dessen ist, viele Progamer haben bestimmte taktiken/spielstile von der KI bereits übernommen, weil die einfach sachen gemacht hat wo noch keiner drüber nachgedacht hat. Unser Umgang, und damit meine ich nicht notwendigerweise wie man sie programiert(wobei das natürlich auch einen Einfluss hat), aber wie wir uns als gesellschaft gegenüber einer selbstlernenden KI verhalten, bestimmt letztenendlich welche entscheidungen diese trifft. Ich würde die KI im anfangsstadium wie ein Kind vergleichen dass dann entweder zum kompletten Soziopathen (aka skynet etc) wird oder zu ner symbiose fähig. Und wenn ich mir die Menschheit derzeit so ansehe.... sehe ich irgendwie die erste option als wahrscheinlicher. (abgesehen davon denk ich nicht dass die AI technologie so weit sein wird, zumindest in meinen lebzeiten nicht mehr). Ich denke Solange die AI auf lokalisierte bereiche eingesetzt wird, haben wir die kontrolle darüber. Die frage wird aber dann eher sein wenn die AI in geschlossenen systemen arbeitet die aber ans internet angeschlossen sind, besteht immer die Wahrscheinlichkeit dass diese AI irgendwann ein schlupfloch findet und plötzlich ungewollt "kontakt" mit anderen AI systemen aufnimmt. Ich denke das wäre etwas was wir zuerst garnicht bemerken. Und ich sehe diese Wahrscheinlichkeit auch desehalb so hoch weil es auch nur ein paar verrückte Programmierer dafür benötigt die soetwas dann erschaffen.

Das problem ist der Mensch hat schon seit der existenz der zivilisation versucht "perfekte systeme" zu erschaffen in denen er leben kann, staatsformen, religionen, komunen etc... . Die meisten realisieren dabei nicht dass jedes system noch so perfekt sien kann wenn der grund zum versagen eines Systems immer der Mensch selber ist. Die AI ist genau so ein system. Nur diesesmal schaffen wir ein System dass nicht nur starr und zerbrechlich ist, sondern eines das irgendwann entscheidungen trifft, wächst und lernt. Und jedes system hat bisher dazu geführt dass entweder das system begonnen hat die Menschen zu unterdrücken, die Menschen sich gegen das system aufgelehnt haben oder das system selber für äussere bedrohungen zu schwach war, was bei einer Weltumspannenden KI nicht wirklich der fall mehr wäre. Also persönlich seh ich schon eher die Wahrscheinlichkeit einer Skynet variante, was aber nicht notwendigerweise sofort schlecht sein muss. 

Edited by Master AP
  • Like 1

Share this post


Link to post
Share on other sites
Master AP, vor 9 Stunden:

[...] Unser Umgang, und damit meine ich nicht notwendigerweise wie man sie programiert(wobei das natürlich auch einen Einfluss hat), aber wie wir uns als gesellschaft gegenüber einer selbstlernenden KI verhalten, bestimmt letztenendlich welche entscheidungen diese trifft. Ich würde die KI im anfangsstadium wie ein Kind vergleichen dass dann entweder zum kompletten Soziopathen (aka skynet etc) wird oder zu ner symbiose fähig. Und wenn ich mir die Menschheit derzeit so ansehe.... sehe ich irgendwie die erste option als wahrscheinlicher. (abgesehen davon denk ich nicht dass die AI technologie so weit sein wird, zumindest in meinen lebzeiten nicht mehr). [...]

Ein interessanter Gedanke und dazu fällt mir die etwas unrühmliche Geschichte von vor zwei Jahren ein, als Microsoft einen Bot online gestellt hat, der innerhalb kürzester Zeit zum totalen Asi wurde:https://www.zeit.de/digital/internet/2016-03/microsoft-tay-chatbot-twitter-rassistisch

Das ist ja ein Grundproblem: derzeit bedeutet "Intelligenz" ja meist noch dass anhand ursprünglich antrainierten Erfahrungen die KI dann eigene Schlüsse zieht und das System verfeinert.Wenn nun aber bereits die Basis "schlecht" ist und auch das Training aus fragwürdigen Handlungen und Informationen besteht, kann es nur schlechter werden..

Master AP, vor 9 Stunden:

Ich denke Solange die AI auf lokalisierte bereiche eingesetzt wird, haben wir die kontrolle darüber. Die frage wird aber dann eher sein wenn die AI in geschlossenen systemen arbeitet die aber ans internet angeschlossen sind, besteht immer die Wahrscheinlichkeit dass diese AI irgendwann ein schlupfloch findet und plötzlich ungewollt "kontakt" mit anderen AI systemen aufnimmt. Ich denke das wäre etwas was wir zuerst garnicht bemerken. Und ich sehe diese Wahrscheinlichkeit auch desehalb so hoch weil es auch nur ein paar verrückte Programmierer dafür benötigt die soetwas dann erschaffen.

Auch hierzu gab es bereits eine lustige Geschichte: Facebook hatte vor einiger Zeit zwei Computer miteinander kommunizieren lassen. Doch als diese sich plötzlich auf einer unbekannten Sprache unterhielten, haben die Forscher Schiss bekommen und sicherheitshalber den Stecker gezogen... https://www.silicon.de/41654841/facebook-stellt-sich-verselbstaendigendes-ki-system-ab

In diesem Fall hat die KI entschieden dass das gestellte Problem besser in einer anderen Sprache als Englisch zu lösen sei. Violà: die erste selbstständige Entscheidung eines (scheinbar) überlegenen Systems...

 

  • Like 1

Share this post


Link to post
Share on other sites
der.enforcer, vor 6 Stunden:

Ein interessanter Gedanke und dazu fällt mir die etwas unrühmliche Geschichte von vor zwei Jahren ein, als Microsoft einen Bot online gestellt hat, der innerhalb kürzester Zeit zum totalen Asi wurde:https://www.zeit.de/digital/internet/2016-03/microsoft-tay-chatbot-twitter-rassistisch

Das ist ja ein Grundproblem: derzeit bedeutet "Intelligenz" ja meist noch dass anhand ursprünglich antrainierten Erfahrungen die KI dann eigene Schlüsse zieht und das System verfeinert.Wenn nun aber bereits die Basis "schlecht" ist und auch das Training aus fragwürdigen Handlungen und Informationen besteht, kann es nur schlechter werden..

Auch hierzu gab es bereits eine lustige Geschichte: Facebook hatte vor einiger Zeit zwei Computer miteinander kommunizieren lassen. Doch als diese sich plötzlich auf einer unbekannten Sprache unterhielten, haben die Forscher Schiss bekommen und sicherheitshalber den Stecker gezogen... https://www.silicon.de/41654841/facebook-stellt-sich-verselbstaendigendes-ki-system-ab

In diesem Fall hat die KI entschieden dass das gestellte Problem besser in einer anderen Sprache als Englisch zu lösen sei. Violà: die erste selbstständige Entscheidung eines (scheinbar) überlegenen Systems...

 

jap kenn beide stories ;) 

Und ja das ist ja die Ironie daran wir schaffen uns wieder nur ein system das uns das leben erleichtern soll aber zum scheitern verurteilt ist, oder mehr noch die KI wird nicht scheitern, sie wird das machen zudem sie fähig ist, sie wird eine Lösung finden, diese Lösung wird uns vermutlich nur nicht gefallen(zumindest nicht allen) ;) 

Darum gibt es ja auch diese these(ka mehr wie die heißt) dass die Erschaffung einer KI unausweichlich ist, und man besser alles tun sollte um diesen entstehungsprozess zu fördern in der hoffnung dass diese dann einen nicht als bedrohung sieht.

Also passt auf was ihr hier schreibt das zukünftige Skynet sieht alles :zoidberg:

Edited by Master AP

Share this post


Link to post
Share on other sites

"ki" ist einfach ein marketingbegriff, das sind momentan nur statistikroboter, die sehr spezialisiert sind.

irgendwelche moral oder ethik einzuprogrammieren ist ja evtl. machbar, aber da sollte man nicht das bild vor augen haben, dass das dann neutral wäre, siehe diese gefangenenrückfälligkeitsrate-ki aus den usa: stark rassistisch aufgrund des "lernmaterials" geprägt.

zu dem thema ist auf golem kürzlich ein artikel erschienen, der meine meinung recht gut widerspiegelt: https://www.golem.de/news/digitalisierung-nein-ethik-kann-man-nicht-programmieren-1812-138159.html

 

Share this post


Link to post
Share on other sites
Arcaras, vor 9 Stunden:

Was ist aber jetzt einfacher :kritisch:???

eine geniale frage. 😂

maettle, um 13.12.2018 at 17:57:

"ki" ist einfach ein marketingbegriff, das sind momentan nur statistikroboter, die sehr spezialisiert sind.

irgendwelche moral oder ethik einzuprogrammieren ist ja evtl. machbar, aber da sollte man nicht das bild vor augen haben, dass das dann neutral wäre, siehe diese gefangenenrückfälligkeitsrate-ki aus den usa: stark rassistisch aufgrund des "lernmaterials" geprägt.

zu dem thema ist auf golem kürzlich ein artikel erschienen, der meine meinung recht gut widerspiegelt: https://www.golem.de/news/digitalisierung-nein-ethik-kann-man-nicht-programmieren-1812-138159.html

 

Hmm genau das meinte ich mit meinem früheren posting oben, dass dann quasi jeder für sein schicksal selber verantwortlich sein wird, ergo wirst du ne bedrohung für die gesellschaft wird die KI ne drohne losschicken und das problem lösen(im schlimmsten fall) ;)
Der vorteil wäre natürlich dass die KI frei von jeder Ideologie ist und es wird sehr schwer sein sie zu manipulieren (wenn überhaupt).

Edited by Master AP

Share this post


Link to post
Share on other sites
Chuck Norris, vor 9 Stunden:

Bevor wir uns weiter mit der künstlichen Intelligenz befassen, sollten wir die natürliche Dummheit in den Griff bekommen.

Die ist leider unendlich.

  • Like 3

Share this post


Link to post
Share on other sites

Create an account or sign in to comment

You need to be a member in order to leave a comment

Create an account

Sign up for a new account in our community. It's easy!

Register a new account

Sign in

Already have an account? Sign in here.

Sign In Now

  • Recently Browsing   0 members

    No registered users viewing this page.

×

Important Information

We have placed cookies on your device to help make this website better. You can adjust your cookie settings, otherwise we'll assume you're okay to continue.