Le paradoxe de Saint-Pétersbourg : quand les mathématiques défient la rationalité économique

En 1713, deux mathématiciens suisses, Nicolas et Nicolaus Bernoulli, formulent une énigme qui traverserait les trois siècles suivants sans perdre son tranchant critique. Le paradoxe de Saint-Pétersbourg n'est pas une curiosité historique. C'est une bombe logique plantée au cœur de l'économie néoclassique, qui révèle comment nos modèles mathématiques se fracturent face aux comportements réels des individus.

Aujourd'hui, alors que les théories de l'utilité espérée dominent toujours les salles de marchés et les calculatrices des risk managers, ce paradoxe reste étonnamment pertinent. Il nous force à rethink nos hypothèses sur la rationalité, le risque et la valeur. Pour un professionnel de la finance qui prétend comprendre les marchés, ignorer Saint-Pétersbourg c'est naviguer à l'aveugle dans le brouillard des biais comportementaux.

Le problème originel : une mise aux enchères absurde

La formulation du paradoxe est élégamment simple. Imaginez qu'on vous propose le jeu suivant :

Un banquier lance une pièce de monnaie à répétition. Si pile apparaît au premier lancer, vous gagnez 2 euros. Si pile n'apparaît qu'au deuxième lancer, vous gagnez 4 euros. Si pile n'apparaît que le troisième lancer, vous gagnez 8 euros. Le gain double à chaque nouveau lancer jusqu'à l'apparition de pile. Une fois pile sortie, le jeu s'arrête et vous empochez le gain.

Question cruciale : combien seriez-vous disposé à payer pour participer à ce jeu ?

La réponse mathématique, calculée via l'espérance espérée, défie l'intuition. La probabilité que pile sorte au premier lancer est 1/2, vous gagnez 2 euros : 0,5 × 2 = 1 euro. La probabilité que pile sorte au deuxième lancer est 1/4, vous gagnez 4 euros : 0,25 × 4 = 1 euro. Au troisième lancer : 0,125 × 8 = 1 euro. Et ainsi de suite infiniment.

L'espérance mathématique du jeu est donc : 1 + 1 + 1 + 1 + ... = l'infini.

Par la théorie classique, vous devriez être disposé à payer une somme infinie pour jouer. Pourtant, empiriquement, presque personne ne paierait plus de 15 ou 20 euros. Voilà le paradoxe : les mathématiques abstraites heurtent de front la psychologie concrète. Les indices sont éclatants. C'est ici que nous devons commencer à questioner nos fondations.

L'utilité espérée : une révolution incomplète

Pour bien saisir le paradoxe, il faut d'abord comprendre la théorie qu'il démantèle. L'utilité espérée est née au XVIIIe siècle comme réponse à une question antérieure : pourquoi les gens évitent-ils les loteries défavorables, même si l'espérance mathématique en serait positive ?

Daniel Bernoulli (cousin de Nicolaus) propose une solution élégante en 1738 : la valeur réelle d'une somme d'argent n'est pas linéaire. Posséder 100 euros enrichit moins celui qui possède déjà 10 000 euros que celui qui n'en a que 500. L'utilité de l'argent diminue. Cette fonction d'utilité U(x) n'est pas proportionnelle à x, elle est concave—c'est la fameuse aversion au risque.

Formellement, l'utilité espérée se définit comme :

E[U(X)] = Σ P(X=xᵢ) × U(xᵢ)

Sous cette théorie, un agent rationnel maximise son utilité espérée, pas son gain espéré. C'était séduisant. Cela s'accordait avec l'observation. Un avancement majeur.

Mais le paradoxe de Saint-Pétersbourg persiste même avec cette correction. Même en supposant une fonction d'utilité logarithmique (U(x) = ln(x)), l'espérance d'utilité du jeu reste infinie. Pour résoudre le paradoxe, il faudrait une fonction d'utilité qui croît si lentement qu'elle compenserait la croissance exponentielle des gains. Cela semble arbitraire. Pourquoi cette forme précisément ?

Voilà le premier indice que le problème est plus profond que les ajustements paramétriques ne peuvent résoudre.

Au-delà des mathématiques : les limites cognitives

Daniel Kahneman et Amos Tversky, lauréats du Prix Nobel d'économie pour leurs travaux sur la théorie des perspectives, ont offert une réponse différente. Le paradoxe de Saint-Pétersbourg n'est pas une anomalie mathématique. C'est une révélation sur comment notre cerveau traite réellement les probabilités extrêmes.

Leur insight clé : nous sous-pondérons les événements hautement improbables. Un gain survenant avec une probabilité de 0,0000001 ne nous fait pas augmenter notre disposition à payer linéairement. Notre évaluation psychologique « arrondit » mentalement ces minuscules probabilités vers zéro.

Dans le jeu de Saint-Pétersbourg, la probabilité que vous remportiez plus de 1 024 euros (ce qui exige pile au 11e lancer ou plus tard) est inférieure à 1/1 024, soit environ 0,001. Pour l'esprit humain, c'est « pratiquement jamais ». Même si mathématiquement cela contribue à une espérance infinie, psychologiquement c'est négligeable.

Cette distinction entre le calcul objectif et l'évaluation subjective est fertile. Elle explique pourquoi :

• Les gens assurance contre les catastrophes improbables (ne pas sous-pondérer le risque de ruine complète)
• Les lotos restent populaires malgré une espérance négative (sur-pondération des jackpots rarissimes)
• Les traders ignorent des scénarios « queues épaisses » jusqu'à ce qu'elles se matérialisent (2008, 2020)

Mais la théorie des perspectives n'élimine pas le paradoxe. Elle le réintègre dans un cadre plus vaste : celui de la rationalité limitée et des biais systématiques.

Implications pratiques pour les marchés financiers

Le paradoxe de Saint-Pétersbourg n'est pas qu'une curiosité universitaire. Il illumine des failles réelles dans comment nous valorisons les actifs financiers.

Considérez les options d'achat (calls) sur actions volatiles. Leur valeur théorique, via le modèle Black-Scholes, dépend d'une volatilité estimée. Mais quelle volatilité utiliser ? Les données historiques ? L'analyse prédictive ? Chaque trader a sa propre fonction d'utilité mentale pour convertir la volatilité en prix.

Plus subtil encore : les catastrophes financières rares. Un risque systémique avec une probabilité annuelle de 1% (par exemple, un krach de 30%) ne survient statistiquement qu'une fois par siècle. Or, il y a eu trois krachs de cette magnitude au XXIe siècle (2000, 2008, 2020). Les modèles qui sous-pondéraient ces queues épaisses ont perdu des milliards.

Le fonds Long-Term Capital Management en 1998 est l'illustration parfaite. Les Nobel Prize winners qui le dirigeaient utilisaient des modèles supposant une distribution normale des rendements. Or, les marchés vivent dans les queues de distribution. Quand le Kremlin a dévalué le rouble, un événement de 27 écarts-types (statistiquement impossible sous la loi normale) a explosé le fonds.

C'est le paradoxe de Saint-Pétersbourg qui se jouait en direct : la théorie mathématique prédisait une chose, la réalité en exécutait une autre.

L'utilité espérée face à l'incertitude radicale

Frank Knight, économiste oublié, distingua risque et incertitude. Le risque, c'est quand on connaît les probabilités (pile ou face : 50-50). L'incertitude, c'est quand on ignore même ce qui pourrait arriver.

La plupart des décisions financières du monde réel sont sous incertitude radicale, pas sous risque mesurable. Or, l'utilité espérée suppose que les probabilités sont connues et fixes. C'est une hypothèse puissante et restrictive.

Dans le jeu de Saint-Pétersbourg, nous supposons que la pièce est honnête et que le jeu continue indéfiniment. Mais dans la vraie vie :

• Le banquier a-t-il vraiment la solvabilité pour payer 2^100 euros ?
• La pièce lancée 100 fois consécutives de la même main montre-t-elle réellement l'honnêteté ?
• Quelle est la durée de vie du jeu ?

Ces questions menaçantes transforment le problème. L'espérance infinie devient un artefact mathématique, sans correspondance avec la réalité.

C'est pourquoi les modèles de portefeuille sophistiqués s'effondrent régulièrement. Ils confondent la précision mathématique avec la capacité prédictive. Ils supposent que les probabilités historiques continueront à s'appliquer dans un futur qui, lui, est radicalement ouvert.

Vers une théorie enrichie : l'utilité espérée revisitée

Comment donc devons-nous penser le choix sous incertitude ?

Une approche utile consiste à intégrer explicitement la méconnaissance des probabilités. La théorie de Choquet utilise des capacités (des généralisations des probabilités) pour modéliser comment nous pondérons les événements incertains. Plutôt que d'assumer que nous connaissons P(X), nous admettons que nous avons une gamme de probabilités plausibles.

Dans le jeu de Saint-Pétersbourg, cela signifierait : je ne sais pas si la pièce est vraiment honnête ou si la banque restera solvable indéfiniment. Je demande donc une prime d'incertitude. Non seulement je réduis mon utilité espérée par aversion au risque (effet de concavité). J'ajoute aussi une pénalité pour l'ignorance des probabilités vraies.

Une autre perspective vient de la théorie comportementale avancée. Vernon Smith et ses collègues ont montré via des expériences contrôlées que les sujets proposent des mises raisonnables (autour de 15-20 euros) pour le jeu de Saint-Pétersbourg, même quand on leur rappelle explicitement que la théorie prédit l'infini. Ce n'est pas l'irrationnalité. C'est une rationalité différente : celle qui privilégie la prudence face à l'extrême incertitude.

En d'autres termes, l'utilité espérée capture un aspect de la rationalité : la logique des choix probabilistes. Mais elle en omet un autre crucial : la sagesse de la prudence quand les maths suggèrent l'invraisemblable.

Conclusion : la nécessité d'une finance humble

Le paradoxe de Saint-Pétersbourg, trois siècles après sa formulation, reste radical. Il nous rappelle que l'utilité espérée, pour précieuse qu'elle soit, reste une approximation limitée de comment les humains et les marchés évaluent vraiment les probabilités et les risques.

Pour le praticien en finance, plusieurs leçons essentielles émergent :

D'abord, l'humilité mathématique. Un modèle qui prédit l'infini quand le monde en empoche 20 euros crie qu'il y a une déconnexion. Ne pas l'entendre est une arrogance coûteuse.

Deuxièmement, l'attention aux queues épaisses. Les événements rares et extrêmes dominent les résultats en finance. Aucun modèle standard ne les capture bien. Nasem Taleb l'a sévèrement exagéré, mais son point de base tient : la distribution des rendements n'est pas normale. Elle a des queues bien plus épaisses que prévu.

Troisièmement, la prudence face à l'incertitude radicale. Quand on ignore réellement les probabilités futures—et on les ignore toujours vraiment en finance—ajouter une prime de prudence n'est pas une irrationalité. C'est sage.

Enfin, une reconnaissance que la finance est une science sociale, pas une physique. Les prix émergent de décisions humaines, biaisées, souvent irrationnelles certes, mais guidées par une logique plus riche que celle que les équations linéaires peuvent capturer.

Le paradoxe de Saint-Pétersbourg ne discrédite pas l'utilité espérée. Il en révèle les frontières. Et c'est justement à ces frontières que se nouent les opportunités réelles pour qui comprend où la théorie s'arrête et où commence la nécessité de penser différemment.