Quarante ans avant les évènements racontés dans la série, un désastre survient, transformant la Terre en un vaste et morne désert et laissant les survivants sans souvenirs de ce qui s'était passé. La série se déroule à Paradigm City, un état policier situé sur l'île de Manhattan contrôlé par la Paradigm Corporation. La ville est facilement reconnaissable de par ses dômes, structures qui abritent les citoyens plus aisés et excluent les plus démunis.
The Big O parle de la nature des souvenirs. Un souvenir est une entrée enregistrée dans le cerveau d'un organisme, mais à Paradigm City, ils sont beaucoup plus que cela. Les Memorii peuvent représenter tout ce que les citoyens ne se rappellent plus de la vie d'avant, et peuvent prendre la forme de documents ou reliques d'avant l'événement, ou encore des hallucinations ou rêves récurrents.
La première moitié de la série est épisodique. Chaque acte suit un citoyen différent, sa réaction face aux souvenirs perdus et comment il continue à vivre sans savoir ce qui s'est passé. Les derniers épisodes introduisent des éléments qui seront pleinement traités dans la seconde saison de la série, dont l'existence d'autres personnes en dehors de Paradigm City, la nature du cataclysme survenu, et « le pouvoir de Dieu dans les mains de l'Homme » ; l'histoire y est racontée en continu et non épisodiquement. On y rencontre Alex Rosewater, PDG du Paradigm Corporation et ennemi de Roger, ainsi que l'Union, des agents étrangers travaillant au sein de Paradigm.