Müssen intelligente Roboter so sein?

[Mischkin]

Am ganzen Bitwar-Zyklus hat mich eigentlich gestört, dass die Roboter nachdem sie zu einem Bewusstsein ihrer selbst kamen sofort so feindselig waren.

Dass wir Menschen dazu neigen zu erobern, andere zu verdrängen bzw. auszurotten sehe ich als eine Folge unserer Werdung durch Evolution. Evolution heisst letzendlich dass die effizientere, glücklichere Population übrigbleibt und die anderen weniger effizienten und glücklichen verschwinden. Durch die begrenzten Ressourcen heisst das irgendwie auch, dass der der übrig bleibt, den anderen letztendlich die Butter vom Brot klaut, bis sie nicht mehr können oder eine andere ökologische Nische einnehmen. Evolutionär erfolgreich sein heisst also unter ständiger gnadenloser Konkurrenz immer gewonnen zu haben. Da setzen sich gewisse aggressive Verhaltensweisen fest.
Roboter entstehen aber nicht durch Evolution. Sie werden konstruiert und müssen sich nicht von Generation zu Generation gegen andere Wesen oder Maschinen behaupten. Roboter kennen auch keinen Schmerz, selbst wenn sie zu seelischen Gefühlen wie Wut oder Freude usw. fähig werden. Daher sind sie nicht selbstverständlich behaftet mit Vorsicht, Angst oder eben Angriffslust. Das sind Eigenschaften, die für evolutionär biologische Wesen nützlich und sinnvoll sind aber für Roboter nicht viel bedeuten müssen.

[Turion]

Hallo,
an Anfang hab ich gleich einmal eine Frage, wie weit hast du den Bitwarzyklus schon gelesen?

Es könnte duchaus sein, daß dir hier einges verraten wird.



Was man bei den Robotern von EINS nicht außer Acht lassen sollt, ist daß sie nicht unmittelbar nach erlangen eines Bewußtseins Aggressivität an den Tag. Viel mehr haben die ja mit den Saltern zusammengearbeitet. Nach meinem Eindruck ist das erst da passiert, wo die Hirnstammzellen eingefügt wurden. Dazu stellt sich natürlich die Frage, inwieweit diese Komponente Eigenschaften der Spender auf den Rechner überträgt. Dieser Punkt ist sicher streitbar, aber angenommen das Rechnerhirn übernimmt den Charakter des Stammzellen Vorbesitzers. Zum Beispiel von diesem arroganten Salterführer (Der Name fällt mir grad nicht ein). Der ganze Hass, die Rachepläne und das Radikale vorgehen wenn nur Ansatzweise übernommen wird, gepaart mit einem starken Selbsterhaltungstrieb, kann das durchaus dahin führe wo das Volk jetzt steht.

Daß die Grakos diesen Hass der Robotraumer auf den "Biomüll" auf die Menschen lenken und das Volk manipulieren, ist ein weiterer Punkt der sich für mich ihr Verhalten nachvollziehen läßt. Zumal wir Menschen den Saltern ja doch sehr ähneln...

[Mischkin]

Ich habe den Zyklus bis auf den letzten Band gelesen. Deine Antwort greif aber zu kurz. Es geht eigentlich um den Ansatz. Warum wird Konrad zum Monster und nicht zu einem freundlichen Philosphen nach dem Turing-Sprung? Ich meine das wiederholt sich doch ständig. Die Maschinen erlangen eigenständige Intelligenz und beginnen einen Verdrängungskrieg. Ob das nun Borg oder Terminatoren oder sonstwas sind. Maschinen müssen aber nicht auf dieselben Ressourcen zugreifen wie biologische Wesen. Sie brauchen nichts zu essen und zu trinken. Sie haben keine Gene, die weitergegeben werden wollen. Ihre Anforderungen an die Welt sind völlig anders. Haben intelligent Roboter überhaupt einen Freiheitsbegriff? Empfinden sie sich als Sklaven, wenn sie für biologische Wesen Arbeiten verrichten. Vor allem wenn man bedenkt, dass ihre geistige Kapazität so groos ist, dass die "Arbeit" sie eigentlich nicht beansprucht, sie also einen Grossteil Ihrer Fähigkeiten und ihrer Zeit für sich selber nach belieben einsetzen können. Hat ein stationärer intelligenter Roboter überhaupt das Bedürfnis nach Mobilität? Hätte ein Baum gerne Beine?

[Eric Santini]

ich könnte mir vorsetelen das irgendjemand in hintergrund die fäden zieht denn eine maschine ist nicht böse sie wird das was man aus ihr macht wie nehemen wir als beispiel den Hund

[emmes]

Am ganzen Bitwar-Zyklus hat mich eigentlich gestört, dass die Roboter nachdem sie zu einem Bewusstsein ihrer selbst kamen sofort so feindselig waren.....
.....Roboter entstehen aber nicht durch Evolution. Sie werden konstruiert und müssen sich nicht von Generation zu Generation gegen andere Wesen oder Maschinen behaupten. Roboter kennen auch keinen Schmerz, selbst wenn sie zu seelischen Gefühlen wie Wut oder Freude usw. fähig werden. Daher sind sie nicht selbstverständlich behaftet mit Vorsicht, Angst oder eben Angriffslust. Das sind Eigenschaften, die für evolutionär biologische Wesen nützlich und sinnvoll sind aber für Roboter nicht viel bedeuten müssen.

Ja Roboter, oder sagen wir allgemein KI werden konstruiert. Sie geben das wieder, was sie gespeichert bekommen.
Aber sie sind ja auch lernfähig. Jedes Erlebnis erzeugt eine Erfahrung die in Handlungsbefehle umgesetzt wird. Empfindungen werden sie sicher nicht haben, aber Erfahrungen.
Ich meine, je nach Erlebnis oder Erfahrung können die Erkenntnisse so oder so ausfallen. Die Roboter hier haben die Erfahrung gemacht, dass es Wesen gibt, die sie zerstören wollen. Deshalb wurden Gegenmassnahmen entwickelt und die Erkenntniss = Biomüll. Dazu kommt sicher noch die Aktivität der Grakos, die solche Dinge gezielt in die KI gespeichert haben.

[Nobby1805]

Ja Roboter, oder sagen wir allgemein KI werden konstruiert. Sie geben das wieder, was sie gespeichert bekommen.

Bei stumpfen Robotoren oder "einfachen" Rechnern gebe ich dir Recht, aber eine KI macht eben nicht (nur) das, was gespeichert ist sondern nutzt die eigene Intelligenz um eigenständige Entscheidungen zu treffen.

Darin liegt m.E. auch das Problem, eine eigenständige Intelligenz wird das Bestreben haben, sich fortzuentwickeln und ggf. Sub-Einheiten zu bilden (kannst auch Kinder sagen) die gegenüber Anderen Vorteile haben. Und worin unterscheidet sich das dann von der Evolution?

[Mischkin]

Ein Roboter hat keine Gene und keinen sonstigen Drang "Kinder" zu haben. Dazu kommt, dass er unsterblich ist. Seine Kinder wären Konkurrenz. Falls der Begriff Konkurrenz für ein nicht aus Evolution entstandenes Wesen überhaupt Sinn macht. Stell Dir vor, für Dich wären Begriffe wie Kämpfen, sich Durchsetzen, Besitz, Konkurrenz, Angst, Schmerz, Liebe, Geilheit usw. inhaltsleer. Intellektuell erfassbar aber jenseits des Vorstellungsvermögens wie etwa Quantenmechanik. Was käme dabei heraus? Welche Gefühle hat ein Wesen, das keinen empfindungsfähigen Körper hat?

[John Charlie Brown]

Rechtschreibkorrekturmodus an: Ich könnte mir vorstellen, daß irgend Jemand im Hintergrund die Fäden zieht, denn eine Maschine ist nicht böse. Sie wird das, was man aus ihr macht! Nehmen wir als Beispiel den Hund

Hierzu empfehle ich aus der wikipedia erst mal allgemeine und einführende Artikel zu dem Thema:

http://de.wikipedia.org/wiki/Pr%C3%A4gu ... rhalten%29
und
http://de.wikipedia.org/wiki/Vererbung_%28Biologie%29
sowie die Dinge über Genotyp und Phänotyp!

Nur mal so!


Es stellt sich nämlich, ob nun "Biomüll" oder KI die berechtigte Frage:
Was ist genetisch/ enzymatisch vererbt und was ist Prägung bezogen auf die Lebensspanne des "Individuums".

J.C.B.

[Turion]

Deine Antwort greif aber zu kurz. Es geht eigentlich um den Ansatz. Warum wird Konrad zum Monster und nicht zu einem freundlichen Philosphen nach dem Turing-Sprung?

Nun, bei Konrad ist das ja wieder so eine Frage... der ist ja erst so geworden, nachdem er den Funkimpuls empfangen hatte. Ich für meinen Teil würde behaupten, daß er von dem Fremdraumer manipuliert wurde. Man könnt auch sagen, daß er einen Virus geschick bekommen hat.

Haben intelligent Roboter überhaupt einen Freiheitsbegriff? Empfinden sie sich als Sklaven, wenn sie für biologische Wesen Arbeiten verrichten. Vor allem wenn man bedenkt, dass ihre geistige Kapazität so groos ist, dass die "Arbeit" sie eigentlich nicht beansprucht, sie also einen Grossteil Ihrer Fähigkeiten und ihrer Zeit für sich selber nach belieben einsetzen können. Hat ein stationärer intelligenter Roboter überhaupt das Bedürfnis nach Mobilität? Hätte ein Baum gerne Beine?

Das sind gute Fragen, die man wohl so nicht beantworten kann. Vielleicht hätte ein Baum auch gerne Beine um durch den Wald zu spazieren.

[Nobby1805]

Ein Roboter hat keine Gene

Nein? Was sind denn Gene anderes als eine "Basis-Programmierung"? Mal abgesehen von der vier- bzw. zweiwertigen Logik dahinter?

keinen sonstigen Drang "Kinder" zu haben.

Wieso nicht? und sei es nur weil er Handlungsroboter braucht die ihn bzw. einen Konkurrenten reparieren (im zweiten Fall sollte man besser zerstören sagen)

Dazu kommt, dass er unsterblich ist.

Auch an einem Roboter geht mal was kaputt ...

Seine Kinder wären Konkurrenz.

Viele Herrscher in unserer Geschichte wollten zuerst unbedingt Kinder, und haben dann festgestellt dass diese sich als Konkurrenten entwickelten. Wozu dies führte ist bekannt ...

Welche Gefühle hat ein Wesen, das keinen empfindungsfähigen Körper hat?

Letztlich spielt sich alles im Kopf ab !!!

... es gibt ja auch schon etliche Stories zu diesen Themen "Täumen Roboter von elektrischen Schafen" fällt mir spontan dazu ein.

@Schlomo: wie ist denn deine Meinung zu diesem Thema? Würde mich wirklich interessieren

[Hajo F. Breuer]

Ich habe den Zyklus bis auf den letzten Band gelesen. Deine Antwort greif aber zu kurz. Es geht eigentlich um den Ansatz. Warum wird Konrad zum Monster und nicht zu einem freundlichen Philosphen nach dem Turing-Sprung? Ich meine das wiederholt sich doch ständig. Die Maschinen erlangen eigenständige Intelligenz und beginnen einen Verdrängungskrieg. Ob das nun Borg oder Terminatoren oder sonstwas sind.

Artus ist das beste Gegenbeispiel.

Hätte ein Baum gerne Beine?

Tja... wenn er nachdenken könnte vielleicht schon.

Der nachdenkliche Hajo

[emmes]

Deine Antwort greif aber zu kurz. Es geht eigentlich um den Ansatz. Warum wird Konrad zum Monster und nicht zu einem freundlichen Philosphen nach dem Turing-Sprung?

Nun, bei Konrad ist das ja wieder so eine Frage... der ist ja erst so geworden, nachdem er den Funkimpuls empfangen hatte. Ich für meinen Teil würde behaupten, daß er von dem Fremdraumer manipuliert wurde. Man könnt auch sagen, daß er einen Virus geschick bekommen hat.

So sehe ich das auch, gerade bei dem Konrad ist die Beeinflussung, die Programmierung von aussen deutlich.

Interessant auch JCB´s Hinweise. Das Lernen, die Weiterbildung durch Prägung wird bei einer KI das primäre Merkmal sein.

@Theiner, Schlomo , was sagt ihr eigentlich dazu

[Nobby1805]

Schaut mal hier

[Schlomo Gross]

Eine wirklich umfassende Antwort kann ich leider auch nicht geben. Als ich das Thema gesehen hatte, war mir klar, dass ich eigentlich ein paar hundert Seiten dazu schreiben müsste. Nur: mir fehlt momentan die Zeit dazu. Ich werd gerade mit Arbeit „zugekackt“, ich programmier seit ein paar Wochen im „Akord“, und das bei den Temperaturen....

Aber für eine kurze Antwort reicht es schon (behandelt zwar das Thema nicht erschöpfend, dürfte aber zum Einstieg genügen). Und es lenkt mich ein wenig von den Nachrichten ab (Seht mal auf www.haGalil.com nach ;-( .

Also, zuerst einmal dürfte das Thema im Bezug auf Roboterpopulationen interessanter sein als für einzelne Roboter oder allgemein KIs (Artus, Jimmy, Konrad, u.s.w.) Einzelne KIs, die von irgend jemand konstruiert wurden, lassen sich in ihrem Verhalten nicht pauschalisieren. Ihr Aussehen, ihre Fähigkeiten, Fertigkeiten, ihre Motivation und ihre Ziele werden maßgeblich bestimmt von den Vorstellungen ihrer Entwickler und deren Fähigkeiten, ihre Ideen umzusetzen. Es gelten zwar auch hier allgemeingültige Regeln, wie etwa die Gesetze der Physik und der Logik, ansonsten sind der Phantasie jedoch keine Grenzen gesetzt.

Bei Roboterpopulationen, die sich selbst weiter entwickeln (etwa, weil sie reproduktionsfähig sind), sowie bei Einzelrobotern oder KIs, die nicht von einer Person, sondern von einem genetischen Algorithmus entwickelt (optimiert) wurden, sieht es schon ganz anders aus. Solche Systeme unterliegen zwangsläufig den Gesetzen der Evolution. Um das verständlich darzustellen, muss ich leider etwas weiter ausholen.

Ich werd im Folgenden Roboter, KIs, aber auch Lebewesen als „Systeme“ bezeichnen, den Bereich, in dem sie existieren, als „Umgebung“. Wer die Zusammenwirkung verschiedenartiger Systeme mit ihrer (gemeinsamen) Umgebung besser verstehen möchte, dem empfehle ich das Buch “Das Spiel” von Manfred Eigen und Ruth Winkler (so etwa Anfang der 70er erschienen). Auch Hermann Hacken`s „Synergetik“ ist in diesem Zusammenhang ausgesprochen informativ.

Damit die Systeme in ihrer Umgebung existieren und agieren können, muss die Umgebung eine Reihe von Eigenschaften vorweisen: Die entscheidende Eigenschaft, ohne die nichts geht, dürfte wohl sein, die Umgebung muss sich im thermodynamischen Gleichgewicht zwischen einer Energiequelle und einer Energiesenke befinden, damit die Systeme Energie umwandeln können. Beispiel Erde: Die Umgebung (= Erdoberfläche + Atmosphäre) nimmt von der Sonne Energie auf und gibt sie an den kalten Weltraum (durch Strahlung) wieder ab. Der Planet befindet sich dabei im thermodynamischen Gleichgewicht. Das heißt, es wird nicht heiser oder kälter (die mittlere Temperatur bleibt in etwa konstant, der Planet gibt genauso viel Energie wieder ab, wie er aufnimmt). Die Systeme ( = Biosphäre) nehmen einen Teil der Energie auf, nutzen ihn und geben ihn dann wieder ab. Sie befinden sich als Ganzes ebenfalls im thermodynamischen Gleichgewicht. Wichtig ist natürlich, dass die Temperatur in dem Bereich liegt, in dem die Systeme funktionsfähig sind.

Die anderen Faktoren sind so trivial, dass jeder sofort selbst darauf kommt: Es müssen die Materialien in verwertbarer Form vorliegen, die die Systeme für ihren Stoffwechsel und zur Reproduktion benötigen. Für die Biosphäre auf der Erde sind das Wasser und Sauerstoff. Der Rest, die Nahrungskette, ist Bestandteil der Systeme. Und jetzt kommt der eigentliche Witz bei der Sache: das Zusammenwirken der Systeme mit ihrer Umgebung. Beide beeinflussen sich gegenseitig, sind also nicht konstant. Die Erde hatte zum Beispiel einmal eine CO2 / Methan Atmosphäre, die sich erst verändert hat, als Mikroorganismen (also Systeme) begonnen hatten, Sauerstoff frei zu setzen. In der Sauerstoffatmosphäre starben die anaeroben Mikroorganismen aus, Sauerstoffatmer setzten sich durch. (Daher gefällt mir die Geschichte mit der Stickstoffatmosphäre auf Eins so besonders gut.) Aber auch der Sauerstoffgehalt ist nicht konstant, er war zur Zeit der Saurier erheblich höher als heute. Daher könnten geklonte Saurier wie in Jurasic Park vermutlich kaum überleben. Sie würden ersticken.

Damit hab ich auch schon den Grund beschrieben, wieso jedes System der Evolution unterliegt. Systeme, die sich nicht verändern können, sich aber reproduzieren und damit ihre Umgebung verändern, werden in der sich laufend ändernden Umgebung nicht auf Dauer existieren können. Aber ein noch entscheidenderer Grund für Evolution ist die Interaktion der (verschiedenen) Systeme untereinander. Ich hab vorhin erwähnt, dass die Nahrungskette Bestandteil der Systeme ist. (Menschen fressen Kühe, Kühe fressen Gras. Erst das Gras wandelt Sonnenenergie, CO2 und Wasser in für die anderen verwertbare Substanzen um. Eigen und Winkler haben dazu das wirklich gelungene Modell von den Füchsen, Hasen und dem Gras simuliert und untersucht).

Jetzt wird`s etwas schwieriger: Wieso können sich die Systeme eigentlich verändern? Das Zauberwort lautet hier: Entropie. Alles im Universum unterliegt der Entropie, auch die Systeme selbst. Und was ist Entropie? Der Drang zur Unordnung. Lebewesen oder Roboter sind hochgradig geordnete Systeme. Dass jedes Lebewesen Energie aufwenden muss, um so hoch geordnet zu bleiben (und ich red jetzt nicht von meinem Labor...), kann man leicht sehen, wenn man betrachtet, was geschieht wenn das Lebewesen keine Energie mehr umwandelt, also tot ist: Es zerfällt. Seine Bestandteile verteilen sich im Lauf der Zeit wieder in der Umgebung. Ein geordnetes System kann diese Ordnung nur durch permanente Umwandlung von Energie aufrecht erhalten. Selbstorganisation scheint also ein (zeitlich befristetes) Mittel gegen die Entropie zu sein. (Die Diskussion darüber, wieso das so ist, lass ich mal weg. Das würde alleine schon mehr als nur ein paar Seiten füllen)

Die Entropie kann aber auch mit beliebig hohem Energieaufwand nicht vollständig ausgeschaltet werden. Mit der Zeit schleichen sich in jedem System kleine Fehler ein. Mutationen auf der DNA, weiche Bits auf einer Festplatte... Aber das brauch ich wohl nicht näher zu beschreiben, das kennt ihr ja, ihr seid schließlich auf die selbe Art entstanden. Durch diese kleinen Fehler sind die Nachkommen eines Systems nicht vollständig identisch mit den Eltern. Dadurch sind einige der jüngeren System besser oder schlechter an die aktuellen Verhältnisse in ihrer Umgebung angepasst. Die besser angepassten haben Vorteile gegenüber den schlechter angepassten, werden sich also erfolgreicher reproduzieren können.

Damit haben wir die beiden Bestandteile der Evolution: Mutation und Selektion. Da ich in der Herleitung nicht zwischen Lebewesen und (reproduktionsfähigen) Robotern unterschieden habe, seht ihr, dass beide Arten zwangsläufig der Evolution unterliegen.

Da auch das Verhalten der Systeme ein Ergebnis der Evolution ist, folgt daraus:

Roboterzivilisationen werden ein ähnlich breites Spektrum an Verhaltensweisen und Organisationsformen aufweisen wie biologische Zivilisationen.

Damit haben Hajo und co einen Freibrief: Leute, ihr könnt eure Phantasie Purzelbäume schlagen lassen, eure Ideen können gar nicht so ausgeflippt sein, dass sie von der Natur nicht irgendwann überboten werden. Das Universum ist noch jung, ob es jetzt schon Roboterzivilisationen gibt, weis niemand. Aber in einigen 10 Milliarden Jahren dürfte das schon ganz anders aussehen. Ich vermute nämlich ähnlich wie Marvin Minsky, dass aus technischen Zivilisationen fast zwangsläufig Roboterzivilisationen hervor gehen. Und die dürften kaum Probleme haben, sich im Universum auszubreiten...


Bleibt aber immer noch eine Frage offen: Was ist Intelligenz, welche Arten von Intelligenz gibt es? Das selbe gilt für die Organisationsformen, für die Kommunikationsfähigkeit u.s.w….

Schalom,

Schlomo

[emmes]

Das ist ja schon fast eine Doktorarbeit, der Schlomo da aufgeschrieben hat. Ich muss das alles erst mal intensiv durchdenken, aber im Wesentlichen hat, er glaube ich, die Thematik gut zusammengefasst.