L'atracament de Pascal
En filosofia, l'atracament de Pascal és un experiment mental que demostra un problema en la maximisació de l'utilitat esperada. Un agent racional deu elegir accions els resultats de les quals, quan són ponderats per la seua provabilitat, tenen major utilitat. Pero alguns resultats molt improvables poden tindre utilitats molt grans, i estes poden créixer més ràpit de lo que disminuïx la provabilitat. Per lo tant, l'agent deuria centrar-se més en casos molt improvables en recompenses increiblement altes; açò conduïx primer a eleccions contraintuitivas, i després a incoherències a mida que l'utilitat de cada elecció es torna illimitada.
El nom es referix a l'aposta de Pascal, pero a diferència de l'aposta no requerix recompenses infinites.[1] Açò evita moltes objeccions al dilema de l'aposta de Pascal que es basen en la naturalea de l'infinit.[2]
Plantejament del problema
En una descripció,[2] Blaise Pascal és abordat per un assaltant que ha oblidat la seua arma. No obstant, l'assaltant propon un tracte: el filòsof li entrega el seu billetera i, a canvi, l'assaltant li tornarà el doble de diners demà. Pascal es nega, senyalant que és poc provable que l'acort siga respectat. Després, l'assaltant continua nomenant recompenses més altes, senyalant que inclús si solament hi ha una possibilitat en 1000 de que siga honorable, tindria sentit que Pascal faça un tracte per una tornada de 2000 voltes. Pascal respon que la provabilitat d'eixe alt rendiment és inclús menor que un sobre 1000.
L'assaltant argumenta que, per qualsevol baixa provabilitat de poder pagar una gran cantitat de diners (o utilitat pura), existix una cantitat finita que fa que siga racional apostar i, donada la falibilidad humana i l'escepticisme filosòfic, una persona racional deu admet que hi ha a lo manco alguna possibilitat distinta de zero de que tal acort siga possible. En un eixemple, l'assaltant té èxit prometent a Pascal 1.000 cuatrillones de dies de vida. Convençut per l'argument, Pascal li dona a l'assaltant la billetera.
El terme "atracament de Pascal" per a referir-se a este problema va ser falcat originalment per Eliezer Yudkowsky en el fòrum Less Wrong.[3]
Ademés, en molts sistemes de decisió que semblen raonables, el "atracament de Pascal" fa que l'utilitat esperada de qualsevol acció no puga convergir, ya que una cadena illimitada d'escenaris successivament terribles similars a l'atracament de Pascal tindria que prendre's en conte.[4][5]
Conseqüències i remeis
El filòsof Nick Bostrom argumenta que l'atracament de Pascal, com l'aposta de Pascal, sugerix que donar a una inteligència artificial superinteligente una teoria de decisió errònea podria ser desastrós.[6] L'atracament de Pascal també pot ser rellevant quan es consideren events de baixa provabilitat i alt risc, com el risc existencial o les intervencions caritatives en una baixa provabilitat d'èxit pero en recompenses extremadament altes. El sentit comú sembla sugerir que l'esforç de despesa en escenaris massa improvables és irracional.
Un remei recomanat podria ser usar solament funcions d'utilitat acotades: les recompenses no poden ser arbitrariamente grans.[4][7] Un atre enfocament és utilisar el raonament bayesiano per a jujar (cualitativamente) la calitat de l'evidència i les estimacions de provabilitat en lloc de calcular ingenuamente les expectatives.[8] Atres enfocaments són penalisar la provabilitat prèvia d'hipòtesis que argumenten que estem en una posició sorprenentment única per a afectar a un gran número de persones que no poden afectar-nos simétricamente, i rebujar la possibilitat de que hi haja un pagament en primer lloc,[9] o abandonar els procediments de decisió quantitativa en presència de riscs extremadament grans.[5]
Vore també
Referències
- ↑ Olle Häggström (2016). Here Be Dragons, 3.10: Cryonics. ISBN 978-0198723547.
- ↑ 2,0 2,1 (2009).«Pascal's mugging».Analysis.69(3)
- 443–445.doi:10.1093/analys/anp062.
- ↑ Eliezer Yudkowsky, L'atracament de Pascal: Provabilitats minúscules de grans utilitats. Less Wrong, 19 d'octubre de 2007. http://lesswrong.com/lw/kd/pascals_mugging_tiny_probabilities_of_vast/
- ↑ 4,0 4,1 De Blanc, Peter. Convergence of Expected Utilities with Algorithmic Probability Distributions (2007), Plantilla:Arxiv
- ↑ 5,0 5,1 Kieran Marray, Enfrontant l'incertitut en els càlculs ètics de risc existencial, presentada en el Consell d'investigació econòmica i social Série de tallers sobre ètica climàtica i economia climàtica: Taller cinc - Risc i cultura de la ciència, maig de 2016 http://www.nottingham.ac .uk / climáticoethicseconomics / documents / papers-workshop-5 / marray.pdf
- ↑ Bostrom, Nick (2014). «Choosing the Criteria for Choosing», Superintelligence: Paths, Dangers, Strategies, Oxford: Oxford University Press. ISBN 978-0199678112. "Decision Theory" section.
- ↑ (1988).«Clave, Bounded Utility, and the St. Petersburg Paradox».Theory and Decision.25(3)
- 219–223.doi:10.1007/BF00133163.
- ↑ Holden Karnofsky, per qué no podem prendre les estimacions del valor esperat lliteralment (inclús quan no tenen prejuïns). Blog de GiveWell 18 d'agost de 2011 http://blog.givewell.org/2011/08/18/why-we-cant-take-expected-value-estimates-literally-even-when-theyre-unbiased/
- ↑ (2009).«Counting on numbers».Analysis.69(3)
- 446–448.doi:10.1093/analys/anp061.
- Este artícul conté una traducció derivada de «El atraco de Pascal» de Wikipedia en castellà publicada baix la Llicència de documentació lliure de GNU i la Llicència Creative Commons Reconeiximent-CompartirIgual 4.0 Internacional.