O conto acompanha a terrível jornada de um narrador que se descreve como um homem de pensamento racional, cético quanto a superstições e afastado da sua família. A sua aventura começa quando embarca como passageiro num navio mercante em Batávia, com destino às ilhas de Sonda.
Durante a viagem, o narrador repara numa série de fenómenos atmosféricos anormais: uma nuvem estranha, uma lua de tom vermelho-escuro, o mar invulgarmente transparente, um calor sufocante e, por fim, uma calmaria absoluta. O comandante desvaloriza os avisos de perigo, mas, a meio da noite, o navio é atingido por uma tempestade de uma violência extrema que varre tudo por cima do convés.
Apenas o narrador e um velho marinheiro sueco sobrevivem ao embate da tempestade. O navio não se afunda de imediato e, nos cinco dias seguintes, é arrastado a uma velocidade vertiginosa rumo a sudeste, empurrado por rajadas de vento terríveis. Sobrevivem comendo apenas pequenos pedaços de açúcar mascavado.
No quinto dia de tempestade, o clima torna-se extremamente gélido e o Sol surge com um brilho mortadiço e doentio antes de desaparecer de vez, mergulhando os sobreviventes numa escuridão profunda e numa noite eterna. Sem conseguirem governar o barco e conscientes de que navegaram mais para sul do que qualquer ser humano na história, abandonam a esperança e aguardam a morte no meio de um oceano de ondas colossais.
Quando se encontram no fundo de um abismo formado pelas ondas. O sueco solta um grito de pavor e o narrador avista, pairando mesmo acima deles na crista da vaga gigante, um navio colossal e negro de quatro mil toneladas. Misteriosamente, esta monstruosa e sombria embarcação navega com todas as velas içadas no meio daquele furacão aterrador, prestes a desabar sobre eles.
O embate é inevitável. Quando a monstruosa embarcação desaba sobre o barco onde se encontrava, o narrador é atirado com violência contra as enxárcias do navio desconhecido, conseguindo salvar-se no último momento enquanto a sua embarcação original se afunda. Dominado por uma profunda apreensão e receio, esconde-se inicialmente no porão.
Aos poucos, contudo, apercebe-se de algo insólito: a tripulação ignora-o completamente, como se ele fosse invisível. O narrador passa a caminhar livremente entre os marinheiros, observando que são todos homens de extrema velhice, com um aspeto fantasmagórico e decrépito. Tremem de fraqueza, murmuram palavras em línguas incompreensíveis e manuseiam instrumentos matemáticos e de navegação completamente obsoletos. O próprio navio é um mistério assombroso: é construído com uma madeira de uma porosidade invulgar e exala uma antiguidade milenar, como se fosse uma ruína esquecida no tempo. O narrador chega a observar o comandante frente a frente no seu camarote, notando nele uma expressão de velhice inefável e reverencial, enquanto este estuda mapas e documentos que parecem pertencer a outras eras.
Aproveitando a sua "invisibilidade", o narrador retira material de escrita do camarote do comandante para registar a sua terrível experiência num diário. É aqui que revela a sua intenção final: tenciona, no seu último momento, encerrar o manuscrito numa garrafa e lançá-lo ao mar.
Entretanto, a viagem alucinante prossegue de forma implacável rumo a sul. O navio é impulsionado por uma corrente misteriosa e de força indomável, deslizando e pairando miraculosamente sobre vagas que se erguem como demónios. A embarcação entra numa região ladeada por colossais muralhas de gelo que se erguem em direção ao céu desolado.
No clímax da narrativa, o gelo abre-se e o navio é apanhado nas garras de um gigantesco redemoinho. Curiosamente, apesar do horror iminente da morte, o narrador confessa que uma curiosidade febril por desvendar os mistérios daquela região inexplorada (que ele supõe ser o Polo Sul) se sobrepõe ao seu próprio desespero. Rodopiando vertiginosamente em círculos concêntricos cada vez mais apertados, no meio de um turbilhão ensurdecedor de vento e gelo, o navio mergulha num abismo insondável e afunda-se, selando assim o destino final da embarcação e do narrador.
