Konstanze, una joven dama española, su criada inglesa Blonde y el criado de su prometido, Pedrillo, fueron hechos prisioneros por piratas, que los vendieron posteriormente como esclavos. Los compró el bajá Selim, un musulmán de origen español que ha renegado de su antigua fe, se ha convertido al islamismo y ha hecho fortuna en Turquía. Se ha enamorado de Konstanze y la ha convertido en su favorita. Los tres rehenes son retenidos en “cortés cautividad” en el palacio que tiene junto al mar. Alertado por las cartas que ha logrado enviar a escondidas su criado Pedrillo, Belmonte, el prometido de Konstanze, ha seguido sus indicaciones para llegar navegando desde España hasta el palacio con el propósito de liberarlos.

El primer acto se abre con Belmonte recién llegado a Turquía, que contempla preocupado los muros tras los cuales sabe que se encuentra su prometida como prisionera, mientras que Osmin, el vigilante del palacio, medita sobre el amor y sobre cómo asegurar la fidelidad de la amada recurriendo, si es necesario, a la coacción. La curiosidad de Belmonte y sus numerosas preguntas sobre Pedrillo, que trabaja en el palacio como jardinero, acaban despertando las sospechas de Osmin. Además, la indulgencia que muestra Selim, su amo, hacia Pedrillo despierta en él el deseo de someterlo a un sinfín de torturas. Belmonte y Pedrillo logran reunirse, pero mientras el criado cuenta a su amo las dificultades que implicará su proyecto de rescatarlos, la principal preocupación de Belmonte es descubrir si su prometida le ha sido fiel durante su cautividad.

Su impaciencia y su desasosiego crecen, especialmente cuando desembarcan Selim y Konstanze después de haber realizado una travesía de placer por el mar. Selim, que sigue respetándola, apremia a Konstanze para que se entregue a él, pero la joven entona un lamento por su prometido, del que ha tenido que separarse a la fuerza, y esta confesión inflama aún más los sentimientos del bajá, que le concede un día más para que cambie de opinión. Aprovechándose del bien conocido interés de Selim por la arquitectura, Pedrillo logra que su amo acceda al palacio haciéndose pasar por un arquitecto que aspira a encontrar trabajo en el palacio. Selim le invita a quedarse y a poder hablar ambos posteriormente. Aparece Osmin, que, inflexible, trata de impedirles el paso, pero los dos hombres lo empujan y logran entrar en el palacio.

En el segundo acto, Osmin intenta obligar a Blonde a que lo ame. Aunque ella mantiene que tan solo la ternura y la libertad son capaces de inspirar amor, Osmin defiende el uso de la fuerza. La discusión es cada vez más acalorada y Osmin se enfurece cuando comprueba la fortaleza de Blonde, que lo amenaza y desafía con valentía. Entretanto, Konstanze llora su felicidad pasada ahora que se acerca el final del plazo impuesto por el bajá. Se muestra decidida y afirma preferir la muerte antes que traicionar a su amor, por más que Selim, confundido, la amenace con infligirle múltiples torturas.

Pedrillo informa a Blonde de los planes para huir que ha ideado Belmonte y de su propia estrategia para burlar la vigilancia de Osmin y, así, poder escapar: tendrá que convencer a este seguidor de Mahoma, y lo consigue, de que beba en honor de Baco un vino en el que Pedrillo habrá vertido previamente un somnífero. A pesar de la promesa de que su huida acabará felizmente, Belmonte no puede acallar sus sospechas de que Konstanze podría haberse enamorado del bajá, mientras que Pedrillo se pregunta si Osmin no habrá obligado a Blonde a entregarse a él. Las dos mujeres se enfadan por sus sospechas de infidelidad, peo ellos les piden perdón y la alegría y la paz vuelven a reinar entre las dos parejas.

El tercer acto da comienzo a medianoche. Todo está preparado para escapar y Belmonte reflexiona sobre el poder del amor. Pedrillo habrá de cantar una serenata, que servirá para alertar a las dos mujeres de que la costa se encuentra despejada. Pero lo que hace es despertar a Osmin después de que Konstanze haya bajado desde su ventana y ella y Belmonte se dirijan al puerto. Los guardas conducen a los cuatro fugitivos en presencia del bajá, mientras que Osmin saborea su inminente venganza.

Ante Selim, que se muestra dolido por su ingratitud, Konstanze y Belmonte imploran piedad mutuamente. Belmonte intenta utilizar en su beneficio el hecho de pertenecer a la noble familia Lostados. Pero el bajá le dice entonces que su padre, el gobernador militar de Orán, es su enemigo mortal, ya que fue él quien le obligó a exiliarse de su país. Esta revelación inesperada hunde por completo a Belmonte, puesto que ahora él es el culpable de haber provocado la muerte inexorable de los cuatro rehenes. Mientras aguardan el final de su vida, Konstanze y Belmonte se consuelan mutuamente. Pero cuando Selim pronuncia su sentencia, acaba por mostrarse justo y magnánimo, ya que no quiere repetir el comportamiento malvado de su rival. En el canto de alabanza posterior, que celebra la nobleza de Selim, tan solo la furia y la rabia de Osmin constituye una nota discordante. El coro de jenízaros proclama, para concluir, la gloria y la humanidad del bajá.