La littérature québécoise des trente dernières années s’est enrichie de pratiques reposant en tout ou en partie sur les mathématiques, notamment celles de Cassie Bérard (La valeur de l’inconnue[2]), de Jean-François Chassay (Les taches solaires[3]), de Sébastien Dulude (Divisible par zéro[4]), de Nicole Brossard (Baroque d’aube[5]), de Wajdi Mouawad (Incendies[6]), de Steve Savage (2 x 2[7]), d’Alexandre Bourbaki (Traité de balistique[8]), de Dominique Fortier (Les larmes de saint Laurent) et de Jacques Marchand (La joie discrète d’Alan Turing[9]). En parallèle, on remarquera l’effort de catalogage de ce qu’on nomme en anglais la mathematical fiction de la part du professeur Alex Kasman, du Collège de Charleston aux États-Unis. Son importante base de données[10] cumule plus de 1 369 titres, depuis Les oiseaux d’Aristophane (414 av. JC) jusqu’à Apeirogon de Colum McCann (2020). En outre, la formation de l’Oulipo en 1960 a certainement contribué à la valorisation des points de rencontre entre ces deux disciplines fondamentales, multipliant les exemples poétiques (Cent mille milliards de poèmes de Queneau[11], ∈ de Roubaud[12]) et narratifs (Paris-Math de l’Oulipo[13], La formule de Stokes d’Audin[14], L’anomalie de Le Tellier[15]). Encouragée par cette triple impulsion qui anime en un même mouvement la littérature et les mathématiques, je porterai mon attention sur le contenu du concept de la math-fiction, étonnamment délaissé par la critique[16], et plus précisément sur les critères qui le fondent, afin de le définir en intension plutôt qu’en extension. Intension et extension relèvent de la logique du langage : une classe peut être définie en extension, par la désignation de chaque élément qui en fait partie, – comme dans le cas qui nous occupe, puisque les oeuvres énumérées fonctionnent comme autant d’exemples de la classe math-fiction –, ou en intension, par la description d’un certain nombre de prédicats qui définit cette classe ; l’objectif, donc, poursuivi par cet article. Je m’occuperai à peine de poésie[17] et très peu des autres formes artistiques investies par la math-fiction, comme le cinéma, pour privilégier le support textuel. En somme, plutôt que d’examiner « ponts » et « passerelles[18] » entre la littérature et les mathématiques, j’envisagerai la math-fiction comme un genre littéraire, en relevant d’abord quelques manières dont s’inscrivent les maths dans une oeuvre de fiction, puis en exposant deux grandes configurations internes, opposées voire contradictoires, qui animent les oeuvres de math-fiction. Je terminerai cet article en comparant la math-fiction à sa proche parente, la science-fiction.