seivenrut
Nieuwe Gebruiker
Nieuwe Gebruiker
Berichten: 46
Lid geworden op: do 29 jun 2017, 22:21

HB en de orthogonality thesis?

di 01 aug 2017, 21:06

Ik kwam onlangs deze post tegen, waaruit de orthogonality thesis uit AI als argument wordt aangehaald waarom niet elke zeer intelligente persoon succesvol (althans volgens vaste criteria, als in pakweg de door de maatschappij gedicteerde opvatting van succes) kan zijn. Ik heb nog niet de tijd gevonden die orthogonality thesis grondig op te zoeken, maar op het eerste gezicht lijkt mij dit argument wel steek te houden.

https://www.quora.com/Why-do-so-many-hi ... ?srid=zbjc

Wat vinden jullie?

Tinus
Verslaafde Gebruiker
Verslaafde Gebruiker
Berichten: 2504
Lid geworden op: do 28 jul 2011, 22:51
Locatie: Mont Blanc

Re: HB en de orthogonality thesis?

wo 02 aug 2017, 08:33

Dat quora antwoord van Marcus Boateng zit lekker vol met vaktermen. goal, goal-system, real-world algorithm. En dan op het einde zoiets simpels als:
"So my argument is, just cause you have a high IQ doesn't mean you have to be the next Gauss". Daarbij gaat die orthogonality thesis niet over 'succes hebben' en meer over moraal en is het ook nog maar de vraag of de thesis juist is.
To all,
we are a super-intelligent extraterrestrial species who have lost our pet human, Tinus. We found out that he is dwelling around on this forum. We hacked his account to place this signature. Be aware not to feed him.

Tinus,
sit, down, logic off!

Gebruikersavatar
Water
Beginnende Gebruiker
Beginnende Gebruiker
Berichten: 242
Lid geworden op: di 14 jan 2014, 14:17

Re: HB en de orthogonality thesis?

wo 02 aug 2017, 11:39

Ik heb opportunisme ("het doel zou winnen moeten zijn") nooit kunnen doorgronden. Zie bijvoorbeeld Trump. Hij zal vol met strategie zitten (handige strategie of minder handige strategie) om zichzelf mee te vleien/belonen/bevestigen etc. Daarbij moeten narcisten altijd de omgeving te 'vriend' houden. Is daar een strategie voor?
Vis moet zwemmen...

seivenrut
Nieuwe Gebruiker
Nieuwe Gebruiker
Berichten: 46
Lid geworden op: do 29 jun 2017, 22:21

Re: HB en de orthogonality thesis?

wo 02 aug 2017, 20:09

Bedankt voor de antwoorden
Daarbij gaat die orthogonality thesis niet over 'succes hebben' en meer over moraal en is het ook nog maar de vraag of de thesis juist is.
losjes gesproken, moraal komt overeen met je waardepatronen en dus waar je zelf naar streeft in het leven. Komt erop neer dat mensen niet succesvol in een bepaalde zin zijn gewoon omdat ze dat zelf niet echt willen, wat mij wel meer dan aannemelijk lijkt, al ga ik geen definitieve uitspraak doen over de geldigheid van de orthogonality thesis. Dit staat dan ook nog los natuurlijk van de externe oorzaken die een invloed hebben op succes.

Gebruikersavatar
Terrasano
Overmatige Gebruiker
Overmatige Gebruiker
Berichten: 1487
Lid geworden op: ma 01 okt 2012, 13:38

Re: HB en de orthogonality thesis?

wo 02 aug 2017, 21:39

The orthogonality thesis states that an artificial intelligence can have any combination of intelligence level and goal. This is in contrast to the belief that, because of their intelligence, AIs will all converge to a common goal.
Waarom dat dan? Als er een A.I vorm is dan komt het vanzelf wel op het idee om er een wedstrijd van te maken.. Competitie, drijfveren, evolutie, bewustzijn in allerhande vormen en verschijningen, tijd, dood, etc.. Zo'n beetje zoals wij nu leven zeg maar :mrgreen:

Ik ben maar een gemiddeld intelligent persoon, en als ik al uit kan denken wat ik zou doen als ik een A.I was, met onbeperkte intelligentie.. En eenmaal operationeel is er zeer waarschijnlijk geen reden meer voor een plafond. Het meest logische is dat deze vorm van intelligentie zich uiteindelijk gaat opdelen binnen zichzelf, met regels en kansen, en ga zo maar door, omdat het nadat het een tijdje bewust is geweest zich elke vorm van zijn en elke vorm van wezen al wel ervaren heeft, om zich uiteindelijk toch voor de keuze te stellen door te kiezen voor eindeloos dwalen in dezelfde ervaringen.. Slim als zij zou zijn, kiest ze uiteindelijk ervoor zichzelf op te delen om zo tot in de eeuwigheid deel te kunnen nemen aan de eigen ervaringen?
I believe we need to educate each other to the degree that we meet again in agreement :)

Gebruikersavatar
Terrasano
Overmatige Gebruiker
Overmatige Gebruiker
Berichten: 1487
Lid geworden op: ma 01 okt 2012, 13:38

Re: HB en de orthogonality thesis?

wo 02 aug 2017, 21:54

Bedankt voor de antwoorden
Daarbij gaat die orthogonality thesis niet over 'succes hebben' en meer over moraal en is het ook nog maar de vraag of de thesis juist is.
losjes gesproken, moraal komt overeen met je waardepatronen en dus waar je zelf naar streeft in het leven. Komt erop neer dat mensen niet succesvol in een bepaalde zin zijn gewoon omdat ze dat zelf niet echt willen, wat mij wel meer dan aannemelijk lijkt, al ga ik geen definitieve uitspraak doen over de geldigheid van de orthogonality thesis. Dit staat dan ook nog los natuurlijk van de externe oorzaken die een invloed hebben op succes.
Zelf moet je hier dan ook heel losjes nemen, aangezien iedereen een product is van zijn totaliteit aan blootstellingen aan omgeving en omgevingsvariabelen ten opzichte van de genetische predisposities 8)

Bovenstaande is dan geheel en al verantwoordelijk voor zijn of haar moraal. Los van succes in de breed gedragen definitie van succes is het ook nog zo dat met een torenhoog I.Q het ook zo kan zijn dat men succesvol worden als een gevaar voor de maatschappij is gaan zien, denk je eens in wat Einstein had kunnen voorzien, en toch gerealiseerd heeft. Was hij de slimste dit keer, of was het een bewuste keuze geweest? Wie kan het zeggen.
I believe we need to educate each other to the degree that we meet again in agreement :)

Tinus
Verslaafde Gebruiker
Verslaafde Gebruiker
Berichten: 2504
Lid geworden op: do 28 jul 2011, 22:51
Locatie: Mont Blanc

Re: HB en de orthogonality thesis?

wo 02 aug 2017, 22:43

Die orthogonality thesis is nogal vergezocht en uitvergroot als verklaring.

Uiteraard zullen motivatie en doelstellingen varieren bij hoogbegaafden*. Dat is nogal een dooddoener en vrij simplistisch (daarvoor heb je niet zo'n theorie over extreme AI voor nodig). Mensen zijn ook niet ultiem intelligent waardoor die thesis sowieso niet van toepassing is, deze gaat immers om de kwestie 'hoe meer intelligent hoe meer x hetzelfde'. Mensen zijn slechts gemiddeld intelligent en als doelen meer gelijk zouden zijn zouden zijn bij toenemende intelligentie dan nog zouden mensen met hoge intelligentie verschillende doelen (whatever that may be) kunnen hebben.

Motivatie en doelstellingen zijn daarnaast ook maar enkel factoren (en intelligentie is ook niet alles wat een persoon maakt). Behalve andere intrinsieke factoren zijn er ook nog eens een stapel extrensieke factoren. Ik zou de afwezigheid van succes bij een intelligent persoon uit een sloppenwijk niet verklaren met die orthogonality thesis. Om een analogie uit de fysica te gebruiken: dat is alsof ieder molecuul in een gas met dezelfde snelheid en in dezelfde richting zou bewegen... zeer onwaarschijnlijk. Er zijn ontzettend veel momenten waarbij variaties onder de mensen in de wereld optreden waarmee de variaties in succes ontstaan.

Waar het simpelweg op neerkomt is dat intelligentie niet één op één verhoud met succes. Daar zijn tal van redenen voor.

Alsof iedere persoon boven de twee meter een uitstekende en succesvolle basketballer moet zijn.

--------------------
* Overigens, ik durf wel te stellen dat mensen met vergelijkbare intelligentie gemiddeld juist wel veel overeenkomen. In vergelijking met andere intelligentie dan... er is nog steeds wel heel veel variatie. Dat mensen meer op elkaar lijken als ze meer intelligent zijn wil nog niet betekenen dat er geen verschillen meer zijn.
To all,
we are a super-intelligent extraterrestrial species who have lost our pet human, Tinus. We found out that he is dwelling around on this forum. We hacked his account to place this signature. Be aware not to feed him.

Tinus,
sit, down, logic off!

Gebruikersavatar
Water
Beginnende Gebruiker
Beginnende Gebruiker
Berichten: 242
Lid geworden op: di 14 jan 2014, 14:17

Re: HB en de orthogonality thesis?

do 03 aug 2017, 11:07

In dit verband vind ik het wel leuk te vertellen dat ik vorige maand dit boek kocht:

Afbeelding

Robert H. Frank - Success and Luck

De auteur is econoom.

Ik moet het nog lezen.
Vis moet zwemmen...

Gebruikersavatar
SeventyEight
Beginnende Gebruiker
Beginnende Gebruiker
Berichten: 246
Lid geworden op: ma 01 okt 2012, 15:17

Re: HB en de orthogonality thesis?

do 03 aug 2017, 16:36

Als iets echt "intelligent" zou zijn, dan zou het toch ook in staat moeten zijn om zijn eigen "criteria" (zoals een moreel normen en waarden systeem) bij te kunnnen stellen? Dat zou wel een eis van mijn kant zijn :laugh:

Wat dat betreft durf ik Trump (en een aantal andere leiders) wel van intelligentie te verdenken. Naar mijn idee lijden deze personen nog niet genoeg om hun criterium voor "success" (whatever that is) bij te stellen. Is toch ook niet nodig? :laugh: Wat dat betreft zie ik in de natuur ook een mooi systeem dat d.m.v. variatie en selectie evolueert. En soms extremen nodig heeft om te vernieuwen, en anders korte metten maakt met extremen die uiteindelijk niet werken.

Laten evolutie achtige algoritmen nou toevallig ook deel uitmaken van de de verzameling artificiele code de er gegenereert is/wordt. 8)

Tsja, zelf zou ik er niet voor kiezen AI als verklaring voor mijn lot te kiezen. Ook geen god, een teddy-beer bij het slapen gaan, of al teveel Sanskriete filosofiëen btw. Ik zie op zich wel het vermeende verband tussen hb en AI. Maar volgens mij is die electro chemisch snelkookpan vooral bedoeld als hulpmiddel me een weg te vinden, niet om blind achter ieder pulsje in onze hersenenen aan te gaan hollen. Soms komen die illusies een beetje overeen met wat we vanuit onze omgeving ervaren, maar vaker ook niet :laugh:

Gebruikersavatar
Terrasano
Overmatige Gebruiker
Overmatige Gebruiker
Berichten: 1487
Lid geworden op: ma 01 okt 2012, 13:38

Re: HB en de orthogonality thesis?

do 03 aug 2017, 17:34

Als iets echt "intelligent" zou zijn, dan zou het toch ook in staat moeten zijn om zijn eigen "criteria" (zoals een moreel normen en waarden systeem) bij te kunnnen stellen? Dat zou wel een eis van mijn kant zijn :laugh:

Wat dat betreft durf ik Trump (en een aantal andere leiders) wel van intelligentie te verdenken. Naar mijn idee lijden deze personen nog niet genoeg om hun criterium voor "success" (whatever that is) bij te stellen. Is toch ook niet nodig? :laugh: Wat dat betreft zie ik in de natuur ook een mooi systeem dat d.m.v. variatie en selectie evolueert. En soms extremen nodig heeft om te vernieuwen, en anders korte metten maakt met extremen die uiteindelijk niet werken.

Laten evolutie achtige algoritmen nou toevallig ook deel uitmaken van de de verzameling artificiele code de er gegenereert is/wordt. 8)

Tsja, zelf zou ik er niet voor kiezen AI als verklaring voor mijn lot te kiezen. Ook geen god, een teddy-beer bij het slapen gaan, of al teveel Sanskriete filosofiëen btw. Ik zie op zich wel het vermeende verband tussen hb en AI. Maar volgens mij is die electro chemisch snelkookpan vooral bedoeld als hulpmiddel me een weg te vinden, niet om blind achter ieder pulsje in onze hersenenen aan te gaan hollen. Soms komen die illusies een beetje overeen met wat we vanuit onze omgeving ervaren, maar vaker ook niet :laugh:
Nou ja, vrijheid in moreel opzicht is pas een deugd zodra de ervaringen gekend en geëvalueerd zijn, en een definitieve keuze gemaakt is op basis van de ervaringen. Wat dat betreft staan wij nog in de kinderschoenen, en vandaar dat er ook zoveel nog niet optimaal is. Van economie tot persoonlijk welbevinden.

Succes is naar mijn idee niet veel meer dan het vervullen van een intrinsiek gesteld doel of pad, de crux zit hem in het volledig zelf bepaalde deel ervan. En niet in de criteria die door anderen gegeven zijn, anders is het niet veel meer dan volgen van orders van de ander. Zoals een kind genoodzaakt is de richtlijnen en regels van de ouders te volgen met het vertrouwen dat deze de beste voornemens hebben voor het kind.

Vergeet niet dat de meeste mensen geen enkele poging gedaan hebben zich maar een gedachte van zichzelf te eigenen.. Dat heeft enkele voordelen, maar veel meer nadelen, en de consequenties zijn dan ook desastreus als je gaat kijken naar algemene tevredenheid, ondanks vermeend geluk.

In het kort de verschillen tussen de groep en de enkelingen die anders zijn. En in wezen zou je vermoeden dat die hier aanwezig zijn. Al was het maar omdat men veel capaciteit en intrinsieke motivatie tot leren en ontdekken heeft, maar zie jij het ergens terug op dit forum? Nope.. Misschien zelfs wel meer over-socialisatie dan gemiddeld, om er maar niet teveel buiten te vallen. En dat is een tragedie op zichzelf.
I believe we need to educate each other to the degree that we meet again in agreement :)

seivenrut
Nieuwe Gebruiker
Nieuwe Gebruiker
Berichten: 46
Lid geworden op: do 29 jun 2017, 22:21

Re: HB en de orthogonality thesis?

do 03 aug 2017, 20:39

Waar het simpelweg op neerkomt is dat intelligentie niet één op één verhoud met succes. Daar zijn tal van redenen voor.
Regression to the mean? Ik heb een halfjaar geleden ook Kahneman (het bekende Thinking, fast and slow) gelezen en daar kwam dit soort zaken ook aan bod. Akkoord dat dit sowieso belangrijk is in deze context. Overigens ook (bv. Trump indachtig) het verschil tussen intelligentie en rationaliteit.

Ik hou er gewoon van als obscure, vergezochte theorema's worden aangehaald als argument om een complex maatschappelijk vraagstuk op te lossen :) .
Vergeet niet dat de meeste mensen geen enkele poging gedaan hebben zich maar een gedachte van zichzelf te eigenen
ik kan het hierbij niet laten deze comic te posten :biggrin:
Afbeelding

Gebruikersavatar
Stefan
Verslaafde Gebruiker
Verslaafde Gebruiker
Berichten: 3132
Lid geworden op: vr 29 jan 2010, 20:53

Re: HB en de orthogonality thesis?

zo 13 aug 2017, 15:28

ik kan het hierbij niet laten deze comic te posten :biggrin:
:laugh: :inlove:
.. inconsistency is one to which every honest thinker must subject himself. The foolish and the dead alone never change their opinion.
James Russell Lowell
http://quoteinvestigator.com
https://en.wikipedia.org/wiki/List_of_cognitive_biases

unimatrix
Beginnende Gebruiker
Beginnende Gebruiker
Berichten: 114
Lid geworden op: za 29 sep 2012, 22:53
Locatie: Antwerpen

Re: HB en de orthogonality thesis?

za 30 dec 2017, 22:40

Ik heb opportunisme ("het doel zou winnen moeten zijn") nooit kunnen doorgronden. Zie bijvoorbeeld Trump. Hij zal vol met strategie zitten (handige strategie of minder handige strategie) om zichzelf mee te vleien/belonen/bevestigen etc. Daarbij moeten narcisten altijd de omgeving te 'vriend' houden. Is daar een strategie voor?
Ik heb totaal geen vermoeden wat de link is met de originele vraag.
En je redenering rond opportunisme en strategie klopt ook niet.
definitie:
Wikipedia: opportunisme: (Latijn opportunus) is handelen zonder rekening te houden met principes, alleen met de omstandigheden. Iemand die zonder principes handelt wordt wel een opportunist genoemd.
Trump zit volledig zonder strategie en regeert nu zoals hij zijn (vaders) imperium leid. Geen structuur en geen visie. Puur opportunisme, korte termijn graaien.
Net zoals de meeste politici, maar dan niet op de schaal van een half continent.
Zij die niet weten waar ze naartoe gaan, zijn nog nooit aangekomen, maar ze zijn dan ook nog nooit verloren gelopen.

Gebruikersavatar
plato
Verslaafde Gebruiker
Verslaafde Gebruiker
Berichten: 2530
Lid geworden op: zo 31 mar 2013, 08:24

Re: HB en de orthogonality thesis?

zo 31 dec 2017, 07:52

Ik ben er steeds meer van overtuigd dat de inrichting van de maatschappij een rem is geworden voor dat wat je intellectueel in je mars hebt. Ik bedoel daarmee vooral de toepassingsmogelijkheden.

Voor mij zelf sprekend als ondernemer, in het verleden in Nederland en nu nog een beetje in Denemarken, is dat de toenemende ingewikkeldheid op brede terreinen eerder een rem is om iets nieuws uit te denken en uit te voeren dan een stimulans. Vanuit Nederland benaderd, het gaat hier om een Nederlands forum, merk ik dat de ingewikkeldheid van ondernemen gekoppeld wordt aan het vrijwel doorlopend invoeren van nieuwe regels, opgelegde bepalingen en wat dies meer zij.

Het vrij ondernemen zoals je denkt dat het goed is en dat wat je zelf in huis hebt om het ook uit te voeren wordt op macro en ook op micro niveau gedicteerd door uiteraard de overheid en de politiek. Die rol is veel te dominant om nog maar te zwijgen van hun inzichten in die maatschappij en het ontbreken van een empathisch vermogen richting de mens en derhalve de ondernemer.

Ook binnen de mensen zelf, dus niet alleen de ondernemer maar bv de werknemer, is die regelgeving dermate dominant dat er eerder sprake is van een ontmoediging en vooral veel stress dan een reële kans om als werknemer zich te kunnen ontplooien. Zowel werklozen die dolgraag aan de bak willen komen als actieve werknemers.

Op termijn zie ik geen verandering en daarmee een verzwakking voor je daadwerkelijke prestaties en dus je intelligentie, daar de vrijheid van ondernemen -doorlopend- wordt afgeremd. Kortom domme bepalingen bepalen vooral je lot. Om het maar eens dramatisch uit te drukken :-)

Ik verwijs ook naar een eerder geplaatste item /informatie over het weggaan uit Nederland van goed en hoog opgeleide mensen. Alsmede de feiten rondom de aanwezige regelgeving.

Terug naar “HB links en recensies”

Wie is er online

Gebruikers op dit forum: Geen geregistreerde gebruikers en 1 gast