Jakaumat ovat leveitä

Inspiraationa toimi Scott Alexanderin “Generalizing from One Example”, jossa käsitellään syvemmin yhtä tekijää, joka saa ihmisiä aliarvioimaan jakaumien leveyttä.

Kirjoitettuani tekstini törmäsin Duncan Sabienin tekstiin “Social Dark Matter”, joka menee paljon syvemmälle.

Matalan informaation väitteet

Inspiraationa toimi Eliezer Yudkowskyn “The Fallacy of Gray”.

Kvantifiointi

Tämä oli vaikea teksti kirjoittaa. Pointti on sinänsä itsestäänselvyys: kyllä, asioita voi vertailla ja laittaa järjestykseen, ja lukuja voi käyttää suuruuden mittaamiseen. Silti…

Minun oli vaikea keksiä hyviä esimerkkejäkään (pysyessäni kaukana keskustelunimaisijoista). Tämä on asia, mitä tapahtuu sinänsä kaikkialla, mutta tuntuu epäreilulta valita jokin tietty silmätikuksi. “Eihän tuo nyt ole mitenkään ihmeellinen esimerkki, asiat vain ovat noin” ja “miten tuota nyt sitten kvantifioisi järkevästi” olisivat molemmat ihan järkeviä reaktioita. Toisaalta… tämä on vähän minun pointtini. Kvantifiointi ei ole helppoa, sitten sitä ei tehdä, tätä tapahtuu koko ajan ja välillä tästä on haittaa.

Yhden muuttujan malli

Tämäkin oli hankala kirjoittaa. Minusta tuntuu, että ihmiset tekevät jatkuvasti hyppäyksiä muotoa “tämä asia on tuolla mittarilla hyvä, siispä se on hyvä” (vrt. halo effect) tai juuttuvat kiinni lempimuuttujaansa ja yksinkertaisiin selityksiin. Silti minun oli vaikea keksiä selkeitä esimerkkejä, joissa päättely menee pieleen.

Samasta teemasta lisää (kuvien kanssa): Max Goodbirdin “Causal Explanations Considered Harmful” ja Adam Zernerin “Losing the root for the tree”.

Symmetrian rikkominen, yleispätevät vasta-argumentit ja niin edelleen

Lisää itse pääteemasta: Local Validity as a Key to Sanity and Civilization.

Lisää ennustusmarkkinoista: Prediction Market FAQ.

Ilmeiset ohjeet

Tämä teksti ja laajemmin koko Itsestäänselvyyksiä-osio tuntuvat minusta kokoelman ytimeltä, siltä, minkä päälle kaikki muut rakentuvat.

Asiat eivät oikeasti ole niin ilmeisiä. Jälkiviisausvinouma on jotakin, mitä olisin voinut käsitellä vielä enemmän – toisaalta tästäkin löytyy Yudkowskyn kirjoittama hyvä teksti “Hindsight Devalues Science”.

Stefan Schubertin “The most basic rationality techniques are often neglected” ja “Frequent fallacies” ovat niin ikään hyviä. Lainauksia ensimmäisestä:

“Don’t believe things for which you lack evidence. And don’t say such things in discussions.”

“Don’t make irrelevant personal attacks.”

“Don’t attack straw men.”

“Define your terms clearly.”

“Make one point at a time.”

“Try not to be too emotional when thinking about heated issues.”

Lisäisin vielä ensimmäiseen pointtiin liittyen “älä sano asioita, joihin et usko”.

Jättiläisten olkapäillä

Katso myös: Read History of Philosophy Backwards (Scott Alexander).

Liian kohteliaat tulkinnat

Vasta jonkin verran konseptia kehiteltyäni ja tekstiä kirjoitettuani tajusin, että Yudkowskyn “Conjunction Controversy (Or, How They Nail It Down)” käsittelee juuri konjunktioharhaa ja varoittaa näistä liian kohteliaista tulkinnoista (vieläpä käyttäen sanaa “charitable”). Noh. Ajatukseni ovat varmaankin pitkälti Yudkowskyn tekstistä lähtöisin, ja voin suositella sitä.

Sumuiset ajatukset

Tuntui hyvältä saada tälle konseptille jokin nimi. Vaikka sumuisuuden syyt ovat moninaisia ja se ilmenee monella eri tavalla, pidän termiä hyödyllisenä.

Olen myös tykästynyt termiin substituutio: kun ihmiset käsittelevät jotakin vaativaa ja korvaavat sen jollakin hieman toisella. (Wikipedia-sivulla on muutama hyvä esimerkki.) Eräs klassikkoesimerkki koskee asian todennäköisyyden korvaamista sen representatiivisuudella (vrt. konjunktioharha). Wikipedia-sivu representatiivisuusheuristiikasta käsittelee aihetta laajemmin.

Probabilistinen ajattelu

Scott Alexanderin teksti On first looking into Chapman’s “Pop Bayesianism” on hyvä toinen selitys probabilistisen ajattelun hyödyllisyydestä.

Saatat tunnistaa siitä jotakin omista teksteistäni tuttuja aiheita: itsestäänselvyyksien epäitsestäänselvyys, kuinka ihmiset eksplisiittisesti kysyttäessä pitävät jotakin ilmeisenä ja muussa kontekstissa toimivat sen vastaisesti, jättiläisten olkapäät ovat korkealla, kohteliaita tulkintoja kuinka kaikki tietysti tietävät perusasiat, perusteettomia syytöksiä olkiukkojen pieksemisestä, parempi epi on tärkeää nimenomaan mukavuusalueen ulkopuolella vaikeissa aiheissa, ja tietysti ihmisten epäonnistuminen probabilistisessa ajattelussa.

Painottaisin vielä, että numeeristen arvojen pyöritteleminen ei ole tärkein juttu, mitä todennäköisyyksistä saa irti. Tästä lisää myös toisaalla.

…mutta ymmärrän, miksi ihmiset haluavat vastauksen kysymykseen “miten näitä uskomuksia oikeasti muutetaan todennäköisyyksiksi?”, joten alla on lyhyt vastaukseni. Muistutan vielä, että tämä on analoginen kysymyksen “miten kylmän ja kuumuuden tuntemuksia oikeasti muutetaan Celsius-asteiksi?” kanssa. Sitä on aika vaikea selittää lapselle, jolla ei ole tuntumaa Celsius-asteikosta.

Ensimmäinen näkökulma on asettaa vertailukohtia. Lämpötila on 20 astetta silloin, kun kesällä on lämmintä. 0 astetta vastaa lämpötilaa syksyn lopulla. Saunassa on 80 astetta.

50 prosenttia vastaa sitä, että pidät kahdesta vaihtoehdosta molempia yhtä todennäköisinä. 100 prosenttia vastaa täyttä varmuutta (jota ei käytännössä ihan saavuteta), 0 prosenttia täyttä varmuutta toiseen suuntaan.

Toinen näkökulma on verrata omia tuntemuksia oikeisiin arvoihin. “Nyt minulla on hieman viileä. Sanoisin lämpötilan olevan 10 astetta”. Mittari sanoo 14 astetta. Ihan kohtalainen arvio.

Uskomusten tapauksessa prosessi on: Valitse jokin väite, josta olet nyt epävarma, mutta jonka totuusarvon tulet myöhemmin saamaan selville. Mieti, kuinka epävarma olet, ja mittaa sitä numeerisella todennäköisyydellä.

Tämä on hieman vaativampaa kuin lämpötilojen tapauksessa. Numeeristen arvioiden tekemiseen on erilaisia temppuja: voi esimerkiksi miettiä, kuinka yllättynyt olisi eri asioita havaitessaan. Lisäksi toisin kuin lämpötilojen tapauksessa, uskomuksilla on vaikeampaa sanoa, mikä on “oikea arvo”.

Toisaalta jos ensimmäinen arviosi on 90%, mutta todellisuudessa väite ei päde ja et olekaan tästä kovin yllättynyt, niin muunnos on varmaankin mennyt pieleen.

Avuksi voi olla todennäköisyyksien miettiminen frekvenssien ja osuuksien näkökulmasta. 90 prosenttia vastaa sitä, että voisit tehdä kymmenen tällaista ennustusta ja olla keskimäärin väärässä vain kerran.

Kolmas näkökulma on… okei, en keksi tälle lämpötila-analogiaa.

Idea on miettiä, millä kertoimilla olisi valmis lyödä vetoa asiasta. (Kyllä, minunkin äitini varoitti osallistumasta vedonlyönteihin. Jatketaan.) Yleisesti “miten löisin vetoa asiasta” saa miettimään “mitä minä oikeasti uskon aiheesta?” ja kertoimien miettiminen auttaa kvantifioimaan uskomusten vahvuutta.

Miten reagoit ehdotukseen “saat euron, jos asia X tapahtuu ja menetät euron, jos X ei tapahdu”?

Jos reaktiosi on “oletko tyhmä, totta kai otan tämä vastaan – ilmaista rahaa!”, niin varmaankin uskomuksesi on selvästi yli 50 prosenttia.

Jos reaktiosi on “en, mutta toiseen suuntaan olen valmis ottamaan vedon vastaan”, niin uskomuksesi on alle 50 prosenttia.

Jos reaktiosi on “hmm, enpä tiedä”, niin uskomuksesi lienee 50 prosentin tienoilla.

Entä ehdotukseen “saat euron, jos X tapahtuu ja menetät kaksi euroa, jos X ei tapahdu”? Tätä kautta saa heijasteltua, ovatko omat todennäköisyydet yli, alle vai suunnilleen 67 prosenttia.

Käytännössä ihmiset suhtautuvat usein epäilevästi vedonlyöntiin: se ei ole sivistynyttä, vaan johtaa uhkapeliriippuvuuteen. Tämä on hyvin harmillinen assosiaatio. Sivistynyttä nimenomaan on se, että ollaan valmiita seisomaan omien sanojen ja uskomusten takana – eikä niin, että suullisesti otetaan kantaa asioihin, mutta ei olla valmiita ottamaan vastuuta sanomisistaan ja peräännytään uskomusten testaamisesta.

Joka tapauksessa tätä voi harrastaa rahan sijasta myös kuvainnollisilla ennustuspisteillä – tai ihan vain ajatuksen tasolla reflektoidakseen, kuinka vahvasti oikeasti uskoo mitä uskoo.

Uskomusten muutos

Toisin sanoen: Bayesin kaava.

Netti on pullollaan selityksiä Bayesin kaavalle. Harva tuntuu oikeasti selittävän intuitioita kaavan taustalla. Suuri osa tuntuu olevan vahvasti matematiikkatilassa, jossa lausekkeita ja lukuja vain pyöritellään ympäriinsä (ilman, että oikein ymmärretään mitä tapahtuu). Pyrin tämän vuoksi selittämään idean mahdollisimman yksinkertaisilla laskuilla ja ilman notaatiota.

Kuten usein, 3Blue1Brown-kanavan selitykset ovat hyviä: Bayes theorem, the geometry of changing beliefs. Myös Arbital-sivuston selitys on paremmasta päästä: Bayes’ rule: Guide.

Miksi todennäköisyydet?

Tässä tekstissä käsitellään hieman useampia aiheita. Lista ei tosiaankaan ole kaikenkattava ja asioita voi selittää eri tavoilla. Tässä joitakin tekstejä, joista olen itse hyötynyt:

Odotusarvo ja epävarmuus

Camilla esitti kaksi väitettä: ensinnäkin sen, että uskomusten epävarmuutta tulee mitata todennäköisyyksillä ja toisekseen sen, että preferenssejä ja epävarmuutta tulee käsitellä odotusarvojen kautta. Ensimmäinen näistä tuloksista kulkee nimellä Cox’s theorem ja toinen nimellä von Neumann–Morgenstern utility theorem. On tosin muitakin tällaisia koherenssiteoreemoja, kuten Dutch book -argumentit ja Abraham Waldin Complete class theorem.

(Jos haluaa lukea tekstin, jossa koherenssia käsitellään tarkasti yksityiskohtia myöten, suosittelen Yudkowskyn tekstiä Coherent decisions imply consistent utilities.)

Nämä asiat ovat tosin hieman monimutkaisempia kuin mitä Camilla antaa ymmärtää. Koherenssiteoreemojen tulkitsemisen kanssa tulee olla tarkkana: “jos uskomuksesi ja preferenssisi toteuttavat nämä luontevat ehdot, niin silloin maksimoit odotusarvoa” on hieman eri väite kuin “jos et maksimoi odotusarvoa, niin menetät arvoa”. Tarkempaa kritiikkiä löytää tekstistä There are no coherence theorems.

Sain lukijalta palautetta siitä, kuinka dialogissa sivuutettiin preferenssien reflektoinnin haaste: pelkästään “sinun tulee maksimoida odotusarvoa” ei kerro, mitä tehdä ristiriitaisten intuitioiden ja mieltymysten esiintyessä.

Olen samaa mieltä, että tämä on haastavaa. Selvästikään raha tai edes onnellisuus ei ole kaikki, mistä ihmiset välittävät (toisin kuin Anna vihjasi).

Tarkennan sitä, mitä tekstilläni haluan välittää, esittelemällä konseptin deskriptiivinen-preskriptiivinen-normatiivinen -jaottelusta.

Deskriptiivinen näkökulma epävarmuuteen käsittelee sitä, miten ihmiset käytännössä käsittelevät epävarmuutta ja tekevät päätöksiä. Esimerkiksi kognitiivisesta psykologiasta löytyy pitkä lista tutkimuksia ihmisten toiminnasta.

Normatiivinen näkökulma käsittelee, miten epävarmuutta ja päätöksiä ideaalisti käsitellään. Todennäköisyyslaskenta on keskeinen esimerkki.

Preskriptiivinen näkökulma käsittelee sitä, miten käytännössä voidaan toimia paremmin. Miten päästään täältä tuonne? Tämä yhdistää deskriptiivisen ja normatiivisen puolen huomioita.

Tämän tekstin teema on normatiivinen näkökulma epävarmuuteen ja preferensseihin. Odotusarvot ovat oikea (tai ainakin melko oikea) lähestymistapa. En ottanut kantaa siihen, miten tähän päästään. Se ei ole tekstin aihe.

Otettuani konspetin esiin käytän vielä tilaisuuden hyväkseni ja huomautan, ettei luonnollisessa kielessä ole itsessään deskriptiivinen-preskriptiivinen -erottelua. “Ihmiset eivät käytännössä tee päätöksiään odotusarvolaskelmien kautta!” voi kuulostaa nasevalta vasta-argumentilta: Tietenkään ihmiset eivät mieti asioita numeeristen todennäköisyyksien kautta! (Deskriptiivinen väite.) Sopivalla äänenpainolla saa kuitenkin samalla välitettyä presekriptiivistä väitettä: että näin ei kannatakaan tehdä, että todennäköisyyksiä ei kannata käyttää, että se miten asiat ovat nyt on oikeastaan hyvä. (Taas yksi voitto status quon puolustajille.)

Ja yritäpä oikeassa keskustelutilanteessa vastata tällaiseen kommenttiin “deskriptiivisesti tulkittuna väitteesi on selvästi tosi, mutta luonnollisessa kielessä ei ole selvää erottelua deskriptiivisten ja preskriptiivisten väitteiden välillä, ja tunnuit äänensävylläsi samalla esittävän väitteen preskriptiivisessä muodossa, yrittäen saada myös tämän muodon kuulostamaan selvältä, ja pidän tätä hieman epärehellisenä retorisena keinona”.

Kunnolla tehty todennäköisyyslaskenta

“Evidenssin poissaolo on evidenssiä poissaololle” saattaa kuulostaa jonkun korvaan väärältä – tässä tapauksessa katso Absence of Evidence is Evidence of Absence (Yudkowsky).

Käsittelin tässä tiedekritiikkiä varsin lyhyesti. Lisää aiheesta löytyy tekstistäni “Kerran luotin” ja sen muistiinpanoista.

Filosofiatila ja ajatusleikit

Olen miettinyt ja lukenut “filosofiaa” koskevia aiheita, ja näihin on sisältynyt varsin paljon kritiikkiä siitä, mitä usein mielletään filosofiaksi. Yksi ajatuksiini vaikuttanut teksti, David Stoven “What is Wrong with Our Thoughts?” on suorasanaisempi kuin itse kehtasin olla.

Keskustelunimaisijat

Yudkowskyn “Politics is the Mind-Killer” käsittelee samankaltaisia ideaa. Kyse ei kuitenkaan ole vain politiikasta (edes laajasti miellettynä).

Joku voisi käyttää samalle konseptille nimitystä “meemi”, mutta ihmisille tulee tästä sanasta mieleen hyvin eri asioita (jotka eivät välttämättä vastaa sanan alkuperäistä tarkoitusta). “Keskustelunimaisija” on kuvaavampi.

Helpot maalitaulut

Tämä on hyvä tilaisuus esittää pahoitteluni kaikille heille, joiden puheita olen teksteissäni käyttänyt esimerkkeinä huonosta epistä. Toivottavasti tekstin luettuanne ymmärrätte, miksi todella halusin puhua oikeista tilanteista enkä vain hypoteettista “joku voisi ajatella näin” -esimerkeistä. Eikä siinä ole mitään henkilökohtaista – päinvastoin, pointti on nimenomaan se, että nämä ovat yleisiä ilmiöitä (eikä vain tuttavapiirini ominaisuuksia).

Pidän sitä oikeastaan meriittinä, jos ajatukset ja puheet ovat niin selkeitä, että niitä voi käyttää esimerkkeinä. Paljon yleisempää tuntuu olevan sellainen sumuinen ajattelu ja epämääräinen puhe, josta on vaikea tulkita mitä tarkalleen halutaan sanoa ja mitä oikeastaan uskotaan – että varmaankin tässä on huono epi, mutta toisaalta tilanteeseen löytyy jokin uskottava kohtelias tulkinta, jonka valossa kaikki on kunnossa. Tällaisten esimerkkien ympärille on vaikea rakentaa tekstejä.

Itse tekstin aiheeseen liittyen nostan esiin Scott Alexanderin tekstin “The Cowpox of Doubt” ja sieltä seuraavan lainauksen:

“The more we concentrate on homeopathy, and moon hoaxes, and creationism – the more people who have never felt any temptation towards these beliefs go through the motions of “debunk”-ing them a hundred times to one another for fun – the more we are driving home the message that these are a representative sample of the kinds of problems we face.”

Status

Simlerin ja Hansonin “The Elephant in the Brain” käsittelee statusta ja vastaavia aiheita kokonaisen kirjan edestä.

Reflektointi

Toisten näkemysten ymmärtämistä voi testata ideologisella Turingin testillä. Testissä tavoitteena on kyetä esittää vastakkaisen osapuolen näkemys niin, ettei hän pystyisi erottamaan sinua henkilöstä, joka oikeasti uskoo tähän vastakkaiseen näkemykseen. (Nimi tulee Turingin testistä, jossa tietokone yrittää vakuuttavasti esittää ihmistä.)

Vakuuttamisesta

Osat helppojen argumenttien kumoamisesta saivat minut ajattelemaan seuraavaa tekstiä (taas Scott Alexanderilta): “Weak Men Are Superweapons”.

Suullinen kommunikaatio on lokaalia

Samankaltaisia ideoita on käsitelty Yudkowskyn “Expecting Short Inferential Distances“-tekstissä.

Sanoista ja konsepteista

Paljon enemmän kielestä: “A Human’s Guide to Words” (Yudkowsky).

Työkalujen väärinkäyttö

Hyvän epin sosiaalisista vuorovaikutuksista on kirjoitettu enemmänkin. Pidän Duncan Sabienin ja Rob Bensingerin listauksia hyvien keskustelujen piirteistä laadukkaina. Oman tekstini teemaan liittyen korostan kohtia

“Try to contribute to a social environment that encourages belief accuracy and good epistemic processes. Try not to ‘win’ arguments[…]”,

“Reward others’ good epistemic conduct (e.g., updating) more than most people naturally do. Err on the side of carrots over sticks, forgiveness over punishment, and civility over incivility[…]”

ja

“Hold yourself to the absolute highest standard when directly modeling or assessing others’ internal states, values, and thought processes”.

Nämä ohjeet vaikuttavat hyviltä joidenkin epäonnistumisten välttämiseen. Tavoite ei ole voittaa väittelyitä, vaan yritetään luoda hyvää epiä tukeva sosiaalinen ympäristö ja palkita toisia esimerkiksi omien virheidensä myöntämisestä. Väitteitä koskien toisten ajatusprosesseja tehdään hyvin harkitusti – “hold yourself to the absolute highest standard” – totuudenmukaisia uskomuksia tavoitellen (eikä väittelyn voittoa tavoitellen).

Ja kyllä, joskus ihmiset todella ovat väärässä jostakin. Sinulla on oikeus ajatella “olen eri mieltä tuosta uskomuksesta, nähdäkseni…” Hyvät keskustelunormit eivät tietenkään käske ajattelemaan “mutta enhän minä tiedä mistään mitään”.

Tehokkaan maailman hypoteesi

Yudkowskyn kirja “Inadequate Equilibria” käsittelee vastaavaa teemaa laajemmin.

Negatiivisuus ja status quon puolustajat

“Why Our Kind Can’t Cooperate” (Yudkowsky) käsittelee vastaavia teemoja.

Insentiivit, koordinaatio ja Pareto-käyrä

Tämä oli ennemminkin kasa irrallisia huomioita (“katso tuonne!”) kuin yhtenäinen tarina.

Scott Alexanderin “Meditations on Moloch” saa vahvan suositukseni (pituudestaan huolimatta).

Kerran luotin

Omiin ajatuksiini (meta)tieteestä on vaikuttanut Scott Alexanderin, Yudkowskyn ja Gwernin tekstit.

Epi on tärkeää

Olen käyttänyt paljon tilaa kirjoittaakseni itse epistä ja sen parantamisesta. Epin tärkeyttä, sitä miksi välittää tästä kaikesta, käsittelen vasta lopuksi.

Syy on se, että sitä on oikeasti aika vaikea selittää. Ihmisten ensireaktiot liittyvät varsin usein helppoihin maalitauluihin. On monia tapoja sivuuttaa konkreettisten ongelmien käsittely. Jotkut ajattelevat, että ongelmien syynä on oikeastaan vain nuo pahat ihmiset. Jotkut esittävät ongelmaan ratkaisun puolen sekunnin mietinnän jälkeen. Liian selkeät esimerkit sivuutetaan itsestäänselvyytenä. Erikoisemmat esimerkit saavat kohteekseen epävalideja argumentteja ja selityksiä, kuinka on naiivia uskoa tuollaisen muutoksen olevan mahdollista. Kaiken tämän käsittelyä hankaloittaa tausta-ajatus, jonka mukaan maailmassa ei oikeasti voi olla mitään pahasti vialla ja että luotettavat aikuiset pitävät kyllä huolta. Tai asenne, että on minun tehtäväni vakuuttaa toinen. Ja jos käsittelen ihmisten epin heikkoutta abstraktilla tasolla, ajattelu ajautuu hassuihin tiloihin, ajatellaan vinoumien olevan vain hassuja kokeita ja selitetään kuinka omituisuuksille on varmastikin jokin hyvä syy.

Ehkä en myöskään osaa pukea ajatuksiani sanoiksi riittävän hyvin. Tässä on oikeasti aika paljon selitettävää.

Tyydyn tässä toteamaan lyhyesti, että minusta väitteet “ihmisiä älykkäämmät tekoälyt luovat eksistentiaalisen riskin” ja “kuolema on paha asia” ovat ilmeisiä. Näihin aiheisiin liittyy toki muita (hyvin) haastavia kysymyksiä ja ihmiset voivat hyvin olla niistä eri mieltä – silti nämä peruspointit ovat itsestäänselvyyksiä.

Samoin pidän ilmeisenä, että tavoite on saada hyvä tulevaisuus kaikille. Sitähän varten täällä ollaan.

Nämä ovat niin kovin tärkeitä asioita, vaikka lopulta ne kuulostavat ilmeisiltä. Koskee aika monia sanomistani asioista.

Tämä ei lopulta haittaa minua. Joskus oleellisinta nimittäin on seurata ilmeisiä ohjeita. Joskus tärkeintä ovat ne itsestäänselvyydet – siis sellaiset asiat kuten järki, tiede ja valistus. Tiedäthän, hyvä epi.