Vernor Vinge : La Singularité technologique qui s’annonce: Comment survivre à l’ère post-humaine

Titre original : The Coming Technological Singularity: How to Survive in the Post-Human Era Vernor Vinge

En cour de traduction

Et texte original.

Vernor Vinge
Département des sciences mathématiques
San Diego State University

(C) 1993 par Vernor Vinge
(La reproduction exacte / traduction et la distribution de cette
article est permise sur n’importe quel support, pourvu que cette
notice soit préservée.)

Cet article a été crée pour le Symposium VISION-21
parrainé par la NASA Lewis Research Center
et de l’Ohio Aerospace Institute, Mars 30-31, 1993.
Il est également récupérable à partir des rapports techniques de la NASA
serveur dans le cadre de la NASA CP-10 129.
Une version légèrement modifiée paru dans le
Hiver 1993 de la Terre _Whole Review_.

Résumé

Dans trente ans ( 1993 – 2023), nous aurons les moyens technologique pour créer l’intelligence surhumaine.  Peu de temps après, l’ère humaine sera terminée.

Est ce qu’un tel progrès est évitable?  Si ca ne peut pas être évitée, est ce que les événements  peuvent être guidé afin que nous puissions survivre?  Ces questions sont étudiées.  Quelques réponses possibles (et quelques autres dangers) sont présentés.

Publicité :

Quand la machine vous bat à Jeopardie ( ou question pour un champion ), et à tous les autres jeux : vous connaissez le jeu de la VIE ?

_Qu’est que la singularité? _

L’accélération du progrès technologique a été le centre caractéristique de ce siècle.  Je soutiens dans cet article que nous sommes sur le bord de changement comparable à la montée de la vie humaine sur Terre.  La cause précise  de ce changement est la création imminente par la technologie des entités ayant plus d’intelligence que l’intelligence humaine.  Il y a plusieurs moyens par lequel la science peut obtenir cette percée (et ceci est un autre raison d’avoir confiance que l’événement se produira):

  • Le développement des ordinateurs qui sont «éveillés» et surhumainement intelligent.  (À ce jour, il y a plus de controverse dans le domaine de l’IA à se demander si nous pouvons créer une équivalence humaine dans une machine.  Mais si la réponse est «oui, nous pouvons », alors il y a peu de doute que des êtres plus intelligents peuvent être construits, peu de temps après.
  • les réseaux informatiques de grande taille (et leurs utilisateurs associés) peuvent «se réveiller »comme une entité surhumainement intelligente.
  • Les interfaces homme machine peuvent devenir si intime que les utilisateurs pourront raisonnablement être considérée comme surhumainement intelligent. (cyborg)
  • Les sciences biologiques peuvent trouver des moyens pour améliorer l’environnement naturel de l’intelligence humaine.

Les trois premières possibilités dépendent en grande partie des améliorations dans le matériel informatique.  Les progrès dans le matériel informatique a suivi une courbe étonnamment stable dans les dernières décennies [16].  Basé largement sur cette tendance, je crois que la création de l’intelligence humaine se produira au cours des trente prochaines années.  (Charles Platt [19] a souligné que les amateurs de l’IA ont dits des proclamations comme cela pour les trente dernières années.  Juste pour que ne pas être coupable d’une ambiguïté en temps relatif, laissez-moi être plus précis: Je serai surpris si cet événement se produit avant 2005 ou après 2030.)

Quelles sont les conséquences de cet événement ?  Lorsque l’intelligence plus-que-humaine conduira le progrès, alors les progrès seront beaucoup plus rapides.
En fait, il n’y a aucune raison pour-laquelle le progrès n’impliquerait pas
la création d’entités toujours plus intelligente – sur une encore plus courte
échelle de temps.  La meilleure analogie que je vois est le passé évolutif:
Les animaux peuvent s’adapter à des problèmes et prendre des inventions, mais souvent pas plus rapidement que la sélection naturelle en faisant son travail – le monde agit comme son propre simulateur dans le cas de la sélection naturelle.  Nous, les humains avons la capacité d’internaliser le monde et la conduite de questionnements «et si» dans nos têtes, nous pouvons résoudre de nombreux problèmes de milliers fois plus rapidement que la sélection naturelle. Maintenant, en créant les moyens d’exécuter ces simulations à vitesses beaucoup plus élevé , nous entrons dans un régime radicalement différent de nos ressources humaines passé, les humains font alors partie des animaux inférieurs.

Du point de vue humain ce changement aura jeté un écart sur toutes les règles précédentes, peut-être en un clin d’œil, un emballement exponentiel au delà de toute espérance de contrôleDes développements qu’avant l’on croyait qu’il ne se produiraient peut-être que dans «un million d’années » (si jamais) vont probablement se produire au cours du siècle prochain.  (Dans [4], Greg Bear peint une image des changements majeurs qui se passe en quelques heures.)

Je pense qu’il est juste d’appeler cet événement une singularité («la Singularité » pour les fins du présent document).C’est un point où nos modèles doivent être mis au rebut et une nouvelle réalité dirige.  Comme nous nous rapprochons
de plus en plus proche de ce point, il pèsera plus en plus vaste au cours des affaires humaine jusqu’à ce que la notion devienne un lieu commun.  Pourtant, quand cela adviendra finalement, cela peut encore être d’une grande surprise et d’une grande inconnue.  Dans les années 1950, il y avait très peu qui l’ont compris: Stan Ulam [27] a paraphrasé John von Neumann en disant:

Une conversation centrée sur les progrès toujours plus rapide des technologies et des changements dans le mode de vie humaine, qui donne l’apparence d’approcher une certaine singularité essentielle dans l’histoire de la race au-delà duquel les affaires humaines, tel que nous les connaissons, ne pouvait continuer.

Von Neumann utilise même le terme singularité, mais il semble qu’il est encore dans la pensée du progrès normal, pas dans la création d’ intellects surhumains.  (Pour moi, la surhumanité est l’essence de la Singularité.  Sans cela nous n’obtiendrions qu’une surabondance de richesses techniques, jamais correctement absorbés (voir [24]).)

Dans les années 1960 il y avait la reconnaissance de certaines des implications de
l’intelligence surhumaine.  IJ Good a écrit [10]:

Laissez une machine ultraintelligente être définie comme une machine qui peut largement dépasser toutes les activités intellectuelles de tout homme intelligent.  La conception de machines est l’une de ces activités intellectuelles, une machine ultraintelligente pourrait concevoir des machines encore plus perfectionné, il y aurait alors sans aucun doute une «explosion d’intelligence», et l’intelligence de l’homme serait laissés loin derrière.  Ainsi, la premiere machine ultraintelligente est la _dernière_ invention que l’homme aurait jamais à faire, à condition que la machine soit assez docile  pour nous dire comment  la garder sous contrôle.

Il est plus probable qu’improbable que, dans le XXe siècle, une machine ultraintelligente sera construit et qu’elle sera la dernière invention que l’homme doivent faire.

Good a capturé l’essence de l’emballement, mais ne poursuit pas ses conséquences les plus troublantes.  Toute machine intelligente de la sorte comme il le décrit ne serait pas l’ « outil » de l’humanité- pas plus que les humains sont les outils de lapins ou de merles ou de chimpanzés.

Durant les années ’60 et ’70 et ’80, la reconnaissance de la diffusion ducataclysme
[28] [1] [30] [4].  Peut-être était ce les auteurs de science-fiction qui ont sentit le premier l’impact concret.  Après tout, les écrivains de science-fiction «durs» sont ceux qui tentent d’écrire des histoires spécifiques à tout ce que la technologie peut faire pour nous.  De plus en plus, ces auteurs ressentirent une paroi opaque à travers le futur.  Avant, ils pouvaient mettre des fantasmes des millions d’années dans le futur [23].  Maintenant ils ont vu que leurs extrapolations les plus diligente aboutissent à l’inconnaissable … et dans peu de temps.  Une fois, des empires galactiques aurait pu sembler un domaine post-humain. Maintenant, malheureusement, seulement ceux qui sont encore interplanétaires.

Qu’en est-il des années 90 et les ’00s et ’10s, tandis que  nous glissons vers
le bord ?  Comment l’approche de la Singularité se répand dans toute la
vision du monde de l’homme ?  Pendant un certain temps encore, les critiques générales de la machine sapience aura bonne presse.  Après tout, jusqu’à ce que nous ayons du matériel aussi puissant qu’un cerveau humain, il est probablement illusoire de penser que nous seront capable de créer des équivalents humains (ou plus) l’intelligence.  (Il est une possibilité farfelue que nous pourrions faire un équivalent humain à du matériel moins puissant, si nous étions prêts à donner de la vitesse, si nous seriont disposés à nous contenter d’un être artificiel qui serait littéralement lent[29].  Mais il est beaucoup plus probable que la conception du logiciel sera un processus délicat, impliquant beaucoup de faux départs et d’expérimentation.  Si oui, alors l’arrivée de l’auto-conscience des machines ne se fera pas qu’après le développement de matériel qui est sensiblement plus puissant que  l’ équipement de l’humain naturel.)

Mais comme le temps passe, nous devrions voir plus de symptômes.  Le dilemme ressenti par des écrivains de science-fiction sera perçue dans d’autres efforts créatifs
(J’ai entendu des auteurs de bandes dessinées s’inquiéter de comment avoir des effets spectaculaires quand tout ce qui est visible peut être produite par la technique devenu courante.) Nous allons voir l’automatisation remplacer les emplois de niveau de plus en plus supérieur.  Nous avons des outils dès maintenant(Programmes de mathématiques symboliques, CAD / CAM), qui nous libèrent de la plupart des  corvées de faible niveau .  Ou autrement dit: Le travail qui est véritablement productif est le domaine d’une fraction de plus en plus petits et de plus en plus dans une élite de l’humanité.  Dans l’entrée de la Singularité, nous voyons les prédictions de _vrai_ chômage technologique, enfin devenir réalité.

Un autre symptôme de progrès vers la Singularité: les idées eux-mêmes devraient se répandre toujours plus vite, et même les plus radicales peuvent rapidement devenir monnaie courante.  Quand j’ai commencé à écrire, il a semblé très facile de venir avec des idées qui ont pris des décennies pour s’infiltrer dans la conscience culturelle ; désormais le délai semble plus comme dix huit mois.  (Bien sûr, cela pourrait juste être moi qui perd de mon imagination alors que je devient vieux, mais je vois l’effet dans d’autres aussi.) Comme le choc dans un débit compressibles, la Singularité se rapproche tandis que nous accélérons à travers la vitesse critique.

Et que dire de l’arrivée de la singularité elle-même ?  Que peut-on déclarer de son apparence réelle ?  Car elle implique un emballement intellectuel, cela se produira probablement plus vite que toute révolution technique vu jusqu’ici.  L’événement déclencheur sera probablement inattendu – peut-être même pour les chercheurs impliqués.  («Mais tous nos précédents modèles ont été catatonique!  Nous étions juste à peaufiner certains paramètres …. ») Si le réseau est assez répandue (dans les systèmes embarqués omniprésents), il peut sembler comme si nos artefacts dans son ensemble se seraient soudainement réveillée.

Et ce qui se passe un mois ou deux (ou un jour ou deux) après ça?  J’ai seulement des analogies pour le désigner: La montée de l’humanité.  Nous serons en
l’ère post-humain.  Et pour tous mes optimismes technologiques galopants,
parfois je pense que je serais plus à l’aise si je devais regarder ces événements transcendantaux avec un millier d’années de recul …  au lieu de vingt.

_Est ce que la Singularité peut être évité ? _

Eh bien, peut-être que cela n’arrivera pas du tout: Parfois, j’essaie d’imaginer
les symptômes que nous devrions nous attendre de voir si la singularité ne se développe pas.  Il y a des arguments très respecté de Penrose [18] et
Searle [21] contre la pratique de la sapience dans la machine.  En août de 1992, Thinking Machines Corporation a organisé un atelier pour étudier la question «comment nous allons construire une machine qui pense » [Thearling].  Comme
vous pouvez le deviner à partir du titre de l’atelier, les participants n’ont pas été particulièrement favorable à  des arguments contre l’intelligence artificielle. En fait, il y avait accord général que les esprits peuvent exister sur des substrats non biologiques et que les algorithmes sont d’une importance centrale à l’existence des esprits.  Cependant, il y avait beaucoup de débats au sujet de la la puissance du matériel brut qui est présente dans le cerveau biologique.  Une minorité estimait que les plus grand ordinateurs de  1992 sont dans les trois ordres de grandeur de la puissance du cerveau humain.  La majorité des participants sont d’accord avec l’estimation de Moravec [16] que nous sommes loin de dix à quarante ans de la parité du matériel.  Et pourtant il y avait une autre minorité qui signalé [6] [20], et conjecturé que la compétence informatique des neurones individuels peuvent être beaucoup plus élevé que ce que l’on croit généralement.  Si c’est le cas, notre matériel informatique actuel pourrait être proche d’un ordre d’ampleur de DIX  de l’équipement que nous portons dans nos têtes.  Si cela est vrai (ou d’ailleurs, si la critique de Penrose ou de Searle est valide), on pourrait ne jamais voir une singularité.  Au lieu de cela, dans les  début ’00s nous trouverions que nos courbes de performances matérielles commencent à se stabiliser – et ce causés par notre incapacité à automatiser la complexité de la conception des travaux nécessaires pour soutenir les courbes de tendance de matériel.  Nous nous retrouverions avec des matériels _très_ puissant, mais sans la capacité de pousser supplémentaires.  Le traitement numérique du signal pourrait être génial, donnant un aspect analogue, même à des opérations numériques, mais rien ne se serait jamais «réveillé» et il n’y aurait plus jamais la fuite intellectuelle
qui est l’essence de la Singularité.  Il serait probablement considérée comme un
âge d’or …  et cela serait aussi un terme de progrès.  Ceci est ressemble à l’avenir prédit par Stent Gunther.  En fait, à la page 137 [24], stent cite explicitement le développement de l’intelligence transhumain comme une condition suffisante pour rompre ses projections.

Mais si la Singularité technologique peut arriver, alors elle arrivera.  Même
si tous les gouvernements du monde sont capable de comprendre la «menace»
et être dans la peur mortelle de celui-ci, les progrès vers l’objectif pousserait à continuer. Dans la fiction, il y a eu des histoires de lois interdisant la construction d’une «machine sous la forme de l’esprit de l’homme» [12].  Dans les fait, l’avantage concurrentiel – économique, militaire, voire artistique – de tous les progrès dans l’automatisation est si convaincante que les lois de passage, ou controle des douanes, qui interdisent de telles choses assure simplement que quelqu’un d’autre l’obtiendra en premier.

Eric Drexler [7] a donné un aperçu spectaculaire de savoir jusqu’où
l’amélioration technique peut aller.  Il convient que les intelligences surhumaines
sera disponible dans un avenir proche – et que ces entités constituent un
menace pour le statu quo humain.  Mais Drexler soutient que nous pouvons intégrer de tels dispositifs dans les règles ou le confinement physique transhumain afin que leurs résultats puissent être examinés et utilisés de façon sécuritaire.  C’est IJ Good sur la machine ultraintelligente, avec une dose de prudence.  Je soutiens que le confinement est intrinsèquement impossible.  Pour le cas du confinement physique : Imaginez-vous limiter à votre maison avec seulement un accès limitée de données à l’extérieur, à vos maîtres.  Si ces maîtres ont pensé à un taux – disons – un million de fois plus lent que vous, il y a peu doute que sur une période de plusieurs années (le temps), vous pourriez arriver à des «Conseils utiles» qui d’ailleurs vous affranchira.  (C’est ce que j’appelle
« Pensée rapide » sous forme de superintelligence « surhumanité faibles ».  Une telle entité « Faiblement surhumaine » probablement brûlera en quelques semaines
hors du temps.  L’entité «Surhumanine forte» serait plus que juste le crackage de
la vitesse d’horloge sur un esprit humain équivalent.  C’est difficile à dire précisément cet entité «surhumaine forte » serait équivalente, mais la différence semble être profonde.  Imaginez l’exécution d’un esprit de chien à très
grande vitesse.  Est ce qu’ un millier d’années de vie du chien ajoute jusqu’à tout être humain ?  (Maintenant, si l’esprit de chien ont été savamment reconstruit et _alors_ fonctionnent à haute vitesse, nous pourrions voir quelque chose de différent  ….)
La plupart des spéculations sur le sujet de la superintelligence semblent être fondées sur le modèle de faible surhumanité.  Je crois que nos meilleures estimations au sujet du monde de la post-Singularité peuvent être obtenus par la pensée sur la nature de la  surhumanité forte.  Je reviendrai sur ce point plus tard dans le papier.)

L’autre approche au confinement Drexlerian est de construire des _régles_
dans l’esprit de l’entité créée surhumaine (lois d’Asimov).  Je pense que les règles sur les performances  ne soit assez pour être sûre et également
produirait un appareil dont la capacité  sont nettement inférieure à la libre
versions (et donc une concurrence humaine favoriserait le développement de ces modèles plus dangereux).  Pourtant, le rêve d’Asimov est un reve merveilleux
: Imaginez un esclave volontaire, qui a 1000 fois vos capacités dans
tous les sens.  Imaginez une créature qui pourrait satisfaire tous vos souhaits en toute sécurité (Quoi que cela signifie) et vous avez toujours 99,9% de son temps libre pour d’autres activités.  Il y aurait un nouvel univers que nous n’avons jamais vraiment compris, mais rempli de dieux bienveillants (bien que l’un des souhaits pourrait être de devenir l’un d’entre eux).

Si la Singularité ne peut être empêché ou restreinte, à quel point mauvaise pourrait être l’ère post-humaine?  Eh bien …  assez mauvaise.  L’extinction physique  de la race humaine est une possibilité.  (Ou, comme Eric Drexler met la nanotechnologie: Compte tenu de tout ce que cette technologie peut faire, peut-être que LES GOUVERNEMENT DÉCIDERAIENT simplement qu’ils n’ont PLUS BESOIN DE LEUR CITOYENS !).  Pourtant l’extinction physique peut ne pas être la possibilité la plus effrayante.  Encore une fois, des analogies: Pensez aux différentes façons que nous rapportent les animaux.  Quelques-uns des abus physiques bruts ne sont pas plausibles, pourtant …. Dans un monde post-humain il y aurait encore beaucoup de niches où l’automatisation humaine équivalente serait souhaitable: des systèmes embarqués dans des appareils autonomes, des démons auto-conscients  dans le bas du fonctionnement de
plus Séditieuses.  (Une intelligence surhumaine vivement serait probablement
une société de l’esprit [15] avec certains composants très compétent.) Certains
de ces équivalents humains pourraient être utilisées pour rien d’autre que du traitement du signal numérique.  Ils seraient plus comme les baleines que les humains.  D’autres pourrait être très ressemblant aux humains, mais avec un caractère unilatéral, une _dedication_qui les mettrait dans un hôpital psychiatrique de notre ère.  Bien qu’aucunes de ces créatures pourrait être de chair et de sang humains, ils pourraient être les choses les plus proche dans le nouvel environnement de ce que nous appelons aujourd’hui humain.  (IJ
Good avait quelque chose à dire à ce sujet, même si à cette date tardive les
conseils peuvent être discutable: Good [11] a proposé une «méta-règle d’or»,
qui pourrait être paraphrasé comme «Traitez vos inférieurs que vous seriez
traitées par vos supérieurs. « C’est une merveilleuse et paradoxale idée (et
la plupart de mes amis ne le crois pas), car la récompense de la théorie des jeux
est si difficile à articuler.  Pourtant, si nous étions capables de la suivre, dans certains sens qu’il pourrait dire quelque chose sur la plausibilité de telle gentillesse
dans cet univers.)

J’ai dit plus haut que nous ne pouvons pas empêcher la Singularité, que sa venue est une conséquence inévitable de la nature des humains, de la compétitivité et des possibilités inhérentes à la technologie.  Et pourtant, …  nous sommes les initiateurs.  Même les plus grandes avalanche sont déclenchée par de petites choses.  Nous avons la liberté de créer des conditions initiales, faire bouger les choses de façons qui sont moins hostiles que d’autres.  Des
bon coup de pouce (comme avec les avalanches de départ), il peut ne pas être clair ce que le coup de pouce à droite directeurs est vraiment:

_Les autres chemins de la Singularité: Amplification de l’Intelligence_

Lorsque les gens parlent de la création  des êtres intelligents surhumains, ils sont généralement capable d’imaginer un projet d’AI.  Mais comme je l’ai indiqué au
début de ce document, il y a d’autres voies vers la surhumanité. Les réseaux informatiques et interfaces homme-machine semble plus banal que les projet d’AI, et pourtant, ils pourraient mener à la Singularité.  C’est ce que j’appelle
Amplification contrastées approche Intelligence  (AI).  AI est quelque chose
qui se déroule très naturellement, dans la plupart des cas même pas reconnu
par ses développeurs pour ce qu’elle est.  Mais chaque fois que notre capacité à accéder à l’information et de la communiquer aux autres est améliorée, en quelque sorte nous avons réalisé une augmentation de plus d’intelligence naturelle.  Même maintenant, l’équipe d’un homme de doctorat et une bonne station de travail informatique (même un poste de travail en off-net ) pourrait probablement dépasser tous les test d’intelligence écrit en l’existence.

Et il est très probable que AI est une route beaucoup plus facile de la réalisation de surhumanité que de pures de IA.  Chez l’homme, les plus dur problèmes de développement ont déjà été résolus.  Construire de l’intérieur de nous meme semble être plus facile que de déterminer d’abord ce que nous sommes vraiment pour ensuite construire des machines qui sont tout cela.  Et il est au moins un précédent conjecturale pour cette approche.  Cairns-Smith [5] a spéculé que la vie biologique peut avoir commencé comme un complément au reste la vie plus primitive, basée sur la croissance cristalline.  Lynn Margulis [14] a fait de solides arguments pour la vue que le mutualisme est la grande la force motrice de l’évolution.

Notez que je ne propose pas que les recherches en IA doivent être ignoré ou moins
financés.  Ce qui se passe avec l’AI ont souvent des applications en IA, et vice-versa.  Je suggère que nous reconnaissons que dans le réseau recherche sur l’interface il y a quelque chose d’aussi profondes (et le potentiel sauvages) que l’Intelligence Artificielle.  Avec cette vision, nous pouvons voir des projets qui ne sont pas directement applicables en tant qu’interface classique et travail de conception de réseau, mais qui servent à nous avancer vers la Singularité le long du chemin IA.

Voici quelques projets possibles qui prennent une importance spécial, étant donné le point de vue IA:

  •   de l’homme / automatisation équipe informatique: Prendre des problèmes qui sont normalement considérées pour la solution pure machine (comme les problèmes hill-climbing ), et concevoir des programmes et des interfaces qui prennent un avantage de l’intuition des humains et du matériel informatique disponible. Considérant toutes les bizarreries de la dimension supérieure des problèmes hill-climbing  (et les algorithmes qui ont été soignée conçu pour leur solution), il pourrait y avoir de très intéressant affichages et des outils de contrôle prévus aux membres de l’équipe humaine.
  • Développer une symbiose homme / ordinateur dans l’art: Combinez les capacité de génération graphiques  des machines modernes et l’esthétique, la sensibilité des humains.  Bien sûr, il ya eu un énorme montant de recherche dans la conception d’aides informatiques pour les artistes, comme des outils d’économie du travail.  Je suggère que nous visions explicitement à une plus grande fusion de compétence, que nous reconnaissent explicitement l’approche coopérative qui est possible.  Karl Sims [22] a fait merveilleux travail dans cette direction.
  • Permettre aux équipes de l’homme / ordinateur à des tournois d’échecs.  Nous avons déjà eu des programmes qui peuvent jouer mieux que presque tous les humains.  Mais combien de travail a été fait sur la façon dont cette puissance pourrait être utilisée par un humain, pour obtenir quelque chose d’encore mieux?  Si de telles équipes ont été autorisés au moins dans certains tournois d’échecs, il aurait pu voir l’effet positif sur la recherche IA que les ordinateurs permettent à des tournois  pour la niche correspondante dans AI.
  • Développer des interfaces qui permettent l’accès aux ordinateurs et le réseau ne nécessitant pas à l’homme d’être lié à un seul endroit, assis en face d’un outil informatique.  (Ceci est un aspect de l’IA qui s’adapte si bien aux  avantages économiques connue que beaucoup d’efforts est déjà passé sur elle.)
  • Développer des systèmes plus symétrique aide à la décision.  Une recherche popularité / secteur des produits de ces dernières années a été un systèmes. de prise de décision   C’est une forme d’IA, mais peut-être trop mettant l’accent sur systèmes qui sont oraculaire.  Autant que le programme donne à l’utilisateur les informations, il doit y avoir l’idée de donner à l’utilisateur de l’orientation des programmes.
  • Utiliser des filets locaux pour rendre les équipes humaines qui fonctionnent vraiment (ie,sont plus efficaces que leurs membres qui le composent).  Ceci est généralement le domaine de « groupware », déjà très populaire dans la poursuite commerciales.  Le changement de point de vue concernerait ici  l’activité du groupe comme un organisme de combinaison.  Dans un sens, cette proposition pourrait être considérée comme le but d’inventer une «Règles de l’Ordre » pour les opérations de cette combinaison.  Par exemple, les groupes de discussion pourrait être plus facile à maintenir que dans de  classiques réunions.  L’Expertise des membres individuels de l’homme pourrait être isolés à partir de questions telles que l’ego de la contribution des différents membres est centrée sur le projet d’équipe.  Et bien sûr, bases de données partagées pourrait être utilisé beaucoup plus facilement que dans les conventionnels Comité des opérations.  (Notez que cette suggestion vise à l’équipe opérationnel plutôt que des réunions politiques.  Dans une volonté de réglage politique , l’automatisation décrit ci-dessus serait tout simplement appliquer le pouvoir des personnes faisant les règles!)
  • exploiter l’Internet dans le monde entier comme un être combinaison humain  / machine outil.  De tous les éléments de la liste, les progrès à cet égard est la procédure la plus rapide et peut nous lancer dans la singularité, avant tout autre chose.  La puissance et l’influence du même aujourd’hui Internet est largement sous-estimé.  Par exemple, je pense que notre systèmes informatiques contemporains serait rompue sous le poids de leur propre complexité, si ce n’était pas pour le bord que l’USENET « L’esprit de groupe » donne à l’administration système et pour soutenir les personnes!) L’anarchie du développement dans le monde entier nette est la preuve deson potentiel.  Comme la connectivité et la bande passante et la taille des archives et des vitesse de l’ordinateur toutes augmentent, nous voyons quelque chose comme Lynn Margulis [14] la vision de la biosphère en tant que processeur de données récapitulé, mais à une vitesse mille fois plus grande et avec des millions d’agents humainement intelligents (nous).

Les exemples ci-dessus illustrent la recherche qui peut être fait dans
le contexte d’aujourd’hui dans les départements de science informatique.  Il y a
d’autres paradigmes.  Par exemple, la plupart des travaux dans les Renseignement Artificiels  et les réseaux de neurones bénéficierait d’un lien plus étroit
avec la vie biologique.  Plutôt que de simplement essayer de modéliser et comprendre la vie biologique avec des ordinateurs, des recherches pourraient être dirigés vers la création de systèmes composites qui s’appuient sur la vie biologique pour des conseils ou pour fournir les fonctionnalités que nous ne comprenons pas assez bien encore mis en œuvre dans le matériel.  Un rêve de longue date de la science-fiction a été l’acces direct  par le cerveau  aux interfaces informatiques [2] [28].  En fait, il ya travail concret qui peut être fait (et qui a été fait) dans ce domaine:

  • o prothèses Limb est un sujet de l’applicabilité commerciale directe. Nerveuses à des transducteurs de silicium peut être faite [13].  C’est une passionnant, à court terme étape vers directe communcation.
  • des liens directs similaires dans le cerveau peut être réalisable, si  taux de bit est faible: étant donné la souplesse humaine d’apprentissage, la réelle cible du cerveau neurone pourrait ne pas avoir à être précisément choisis. Même 100 bits par seconde serait d’une grande utilité pour un AVC les victimes qui, autrement, serait limité à de menus les interfaces.
  • Branchement au tronc optique a le potentiel pour des bandes passantes de 1 Mbit / seconde ou deux.  Mais pour cela, nous avons besoin de connaître les échelle fine architecture de la vision, et nous avons besoin de placer un enchevetrement énormes d’ électrodes avec une précision exquise.  Si nous voulonsnotre connexion haut débit à addition_ _dans ce parcours sont déjà présents dans le cerveau, le problème devient beaucoup plus insolubles.  Juste coller une grille de récepteurs à large bande passante dans un cerveau ne sera certainement pas le faire.  Mais supposons que le haut débit du réseau étaient présents alors que la structure du cerveau a été effectivement mise en place, comme l’embryon se développe.
  • Cela suggère que:
  • expériences embryon animal.  Je ne m’attends pas tout succès IA dans les premières années de ces recherches, mais en donnant cerveaux en développement accès aux complexes de simulation des structures neurales pourrait être très

intéressante pour les gens qui étudier le fonctionnement du cerveau embryonnaire
développe.  À long terme, de telles expériences pourraient produire
animaux avec des chemins sens supplémentaire et intéressant intellectuelle
capacités.

A l’origine, j’avais espéré que cette discussion des IA donneraient
certaines approches bien plus sûr de la Singularité.  (Après tout, IA
permet à notre participation dans une sorte de transcendance.) Hélas, à la recherche
Retour sur ces propositions IA, tout ce que je suis sûr, c’est qu’ils
devraient être considérés, qu’ils peuvent nous donner plus d’options.  Mais comme pour les
de sécurité …  ainsi, certaines des suggestions sont un peu sur leur faisait peur
visage.  Un de mes examinateurs informelle souligné que IA pour individuels
humains crée une élite plutôt sinistre.  Nous, les humains ont des millions de
années de bagages évolutive qui nous fait regarder la concurrence dans un
la lumière mortelle.  Beaucoup de ce meurtrier ne peut pas être nécessaires dans d’aujourd’hui
monde, celui où les perdants prennent trucs des gagnants et sont cooptés
dans des entreprises des lauréats.  Une créature qui a été construit _de novo_
pourrait éventuellement être une entité beaucoup plus bénin que celui avec un noyau
basée sur Fang et Talon.  Et même le point de vue égalitaire d’un Internet
qui se réveille avec toute l’humanité peut être considérée comme un cauchemar
[25].

Le problème n’est pas que la Singularité représente simplement le
passant de l’humanité à partir du centre étrange, mais qu’elle contredit certaines
de nos idées les plus profondément ancrées d’être.  Je pense que regarder de plus près à la
notion de surhumanité forte peut montrer pourquoi.

Surhumanité _Strong et le meilleur que nous pouvons demander for_

Supposons que nous pourrions adapter la Singularité.  Supposons que nous pouvions atteindre
nos espoirs les plus extravagants.  Quel serait alors que nous demandons:
Que les humains eux-mêmes deviennent leurs propres successeurs, que
quel que soit l’injustice survient serait tempérée par la connaissance de notre
racines.  Pour ceux qui sont restés inchangés, l’objectif serait bénigne
traitement (peut-être même de donner le séjour-fesses de l’apparition de
être les maîtres d’esclaves divins).  Ce pourrait être un âge d’or qui a également
progrès impliqués (franchissant barrière de stent).  Immortalité (ou à
au moins une vie aussi longtemps que nous pouvons rendre l’univers de survivre [9]
[3]) serait réalisable.

Mais dans ce monde plus aimable et plus brillante, la philosophie
problèmes eux-mêmes deviennent intimidant.  Un esprit qui reste à la même
capacité ne peut pas vivre éternellement, et après quelques milliers d’années il ressemblerait
plus comme un ruban boucle répétant qu’une personne.  (Le plus effrayant
photo que j’ai vu de ceci est dans [17].) Pour vivre indéfiniment longue,
l’esprit lui-même doit croître …  et quand il devient assez grand, et
regarde en arrière …  ce sentiment de solidarité peut-il avoir avec l’âme qu’il
était à l’origine?  Certes l’être plus tard, serait tout ce que le
original a été, mais tellement beaucoup plus.  Et donc, même pour l’individu,
la notion de Cairns-Smith (ou Lynn Margulis) de la nouvelle vie de plus en plus
progressivement hors de l’ancien doit être encore valide.

Ce «problème» au sujet de l’immortalité vient en beaucoup plus directe
façons.  La notion de l’ego et la conscience de soi a été le fondement de la
le rationalisme têtu des derniers siècles.  Pourtant, aujourd’hui le
notion de conscience de soi est sous l’attaque des Artificielle
Les gens du renseignement («conscience de soi et les autres perturbations mentales»).
Amplification Intelligence dépouilles de l’importance de l’ego de
une autre direction.  Le monde post-Singularité impliquera très
réseaux à bande passante élevée.  Une caractéristique centrale de forte surhumaine
entités seront probablement leur capacité à communiquer à la variable
bandes passantes, y compris celles beaucoup plus élevé que la parole ou de messages écrits.
Qu’advient-il lorsque des morceaux de moi peut être copiée et fusionnée, lorsque le
taille d’une conscience de soi peut augmenter ou diminuer en fonction de la nature des
problèmes à l’examen?  Ce sont des caractéristiques essentielles de fortes
surhumanité et la singularité.  Penser à eux, on commence à
sentir comment essentiellement étrange et différente de l’ère post-humaine sera
– Soit _sans combien habilement et avec bienveillance, il est amené à be_.

Sous un certain angle, la vision s’intègre beaucoup de nos rêves heureux:
un endroit sans fin, où l’on peut vraiment se connaître et à comprendre
mystères les plus profonds.  Sous un autre angle, c’est un peu comme le pire
scénario j’ai imaginé précédemment dans ce document.

Quel est le point de vue valable?  En fait, je pense que la nouvelle ère
tout simplement trop différents pour entrer dans le cadre classique de bon et
le mal.  Ce cadre est basé sur l’idée d’isolés, immuables esprits
reliés par ténue, faible Largeur de bande des liens.  Mais le post-Singularité
monde _does_ ajustement avec la plus grande tradition de changement et de la coopération
qui a commencé il ya longtemps (peut-être même avant la montée de l’biologiques
la vie).  Je pense qu’il ya des notions _are_ d’éthique qui s’appliquent dans de telles
une époque.  La recherche sur IA et communications à haut débit devrait
d’améliorer cette compréhension.  Je vois juste les lueurs de cela maintenant,
dans Good méta-règle d’or, peut-être dans les règles pour distinguer l’auto
d’autres sur la base d’une bande passante de la connexion.  Et tandis que l’esprit
et l’auto sera beaucoup plus labiles que dans le passé, beaucoup de ce que nous
valeur (connaissances, la mémoire, la pensée) ne doivent jamais être perdues.  Je pense que
Freeman Dyson a raison quand il dit [8]: «Dieu est ce que l’esprit devient
quand il a dépassé l’échelle de notre compréhension.  »

[Je tiens à remercier John Carroll, de San Diego State University et Howard
Davidson de Sun Microsystems pour discuter de la version préliminaire de ce
papier avec moi.]

Sources Annotés [et un plaidoyer pour l’aide occasionnelle bibliographiques] _

[1] Alfvén, Hannes, l’écriture comme Olof Johanneson, Fin _Le de l’Homme? _,
Livres Award, 1969 précédemment publiées comme « Le conte de la Grande Poste de travail « , lâche-McCann, traduit de l’ouvrage un droit d’auteur 1966 Albert Bonniers Forlag AB avec anglais d’auteur 1966 par Victor Gollanz, Ltd

[2] Anderson, Poul, « Rois qui meurent », _If_, Mars 1962, p8-36. Reproduit dans _Seven Conquests_, Poul Anderson, MacMillan Co., 1969.

[3] Barrow, John D. et Frank J. Tipler, _Le anthropique cosmologique Principle_, Oxford University Press, 1986.

[4] Bear, Greg, «La musique du sang», _Analog Science Fiction-Science Fact_, Juin, 1983.  Élargi dans le roman Music_ _Blood, Morrow, 1985

[5] Cairns-Smith, AG, Clues _Seven à l’origine de Life_, Cambridge University Press, 1985.

[6] Conrad, Michael _et al._, «Vers un cerveau artificiel», _BioSystems_, Vol23, pp175-218, 1989.

[7] Drexler, K. Eric, _Engines des Creation_, Anchor Press / Doubleday, 1986.

[8] Dyson, Freeman, dans toutes les _Infinite Directions_, Harper & & Row, 1988.

[9] Dyson, Freeman, « Physique et Biologie dans un univers ouvert », _Review des Physics_ moderne, vol 51, pp447-460, 1979.

[10] Good, IJ, « Speculations Concerning the First Ultraintelligent Machine », in _Advances in Computers_, vol 6, Franz L. Alt and Morris Rubinoff, eds, pp31-88, 1965, Academic Press.

[11] Good, IJ, [Help! I can’t find the source of Good’s Meta-Golden Rule, though I have the clear recollection of hearing about it sometime in the 1960s. Through the help of the net, I have found pointers to a number of related items. G. Harry Stine and Andrew Haley have written about metalaw as it might relate to extraterrestrials: G. Harry Stine, « How to Get along with Extraterrestrials … or Your Neighbor », _Analog Science Fact- Science Fiction_, February, 1980, p39-47.]

[12] Herbert, Frank, _Dune_, Berkley Books, 1985. However, this novel was serialized in _Analog Science Fiction-Science Fact_ in the 1960s.

[13] Kovacs, GTA _et al._, « Regeneration Microelectrode Array for Peripheral Nerve Recording and Stimulation », _IEEE Transactions on Biomedical Engineering_, v 39, n 9, pp 893-902.

[14] Margulis, Lynn and Dorion Sagan, _Microcosmos, Four Billion Years of Evolution from Our Microbial Ancestors_, Summit Books, 1986.

[15] Minsky, Marvin, _Society of Mind_, Simon and Schuster, 1985.

[16] Moravec, Hans, _Mind Children_, Harvard University Press, 1988.

[17] Niven, Larry, « The Ethics of Madness », _If_, April 1967, pp82-108. Reprinted in _Neutron Star_, Larry Niven, Ballantine Books, 1968.

[18] Penrose, R., _The Emperor’s New Mind_, Oxford University Press, 1989.

[19] Platt, Charles, Private Communication.

[20] Rasmussen, S. _et al._, « Computational Connectionism within Neurons: a Model of Cytoskeletal Automata Subserving Neural Networks », in _Emergent Computation_, Stephanie Forrest, ed., p428-449, MIT Press, 1991.

[21] Searle, John R., « Minds, Brains, and Programs », in _The Behavioral and Brain Sciences_, v.3, Cambridge University Press, 1980.  L’ essay is reprinted in _The Mind’s I_, edited by Douglas R. Hofstadter and Daniel C. Dennett, Basic Books, 1981.  Cette reprinting contains an excellent critique of the Searle essay.

[22] Sims, Karl, « Interactive Evolution of Dynamical Systems », Thinking Machines Corporation, Technical Report Series (published in _Toward a Practice of Autonomous Systems: Proceedings of the First European Cnference on Artificial Life_, Paris, MIT Press, December 1991.

[23] Stapledon, Olaf, _The Starmaker_, Berkley Books, 1961 (but from the forward probably written before 1937).

[24] Stent, Gunther S., _The Coming of the Golden Age: A View of the End of Progress_, The Natural History Press, 1969.

[25] Swanwick Michael, _Vacuum Flowers_, serialized in _Isaac Asimov’s Science Fiction Magazine_, December(?) 1986 – February 1987. Republished by Ace Books, 1988.

[26] Thearling, Kurt, « How We Will Build a Machine that Thinks », a workshop at Thinking Machines Corporation.  Communication personnelle.

[27] Ulam, S., Tribute to John von Neumann, _Bulletin of the American Mathematical Society_, vol 64, nr 3, part 2, May, 1958, p1-49.

[28] Vinge, Vernor, « Bookworm, Run! », _Analog_, March 1966, pp8-40.Reprinted in _True Names and Other Dangers_, Vernor Vinge, Baen Books, 1987.

[29] Vinge, Vernor, « True Names », _Binary Star Number 5_, Dell, 1981. Reprinted in _True Names and Other Dangers_, Vernor Vinge, Baen Books, 1987.

[30] Vinge, Vernor, First Word, _Omni_, January 1983, p10.

prothèses Limb

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s