Een rotatie in de driedimensionale ruimte is een afbeelding die alle punten om een vaste as, de rotatieas, draait over een vaste hoek, de rotatiehoek. 

In veel gevallen kan men zich beperken tot de verzameling rotaties rondom één vast dekpunt. Zonder verlies van algemeenheid kan worden aangenomen dat dit de oorsprong van het coördinatenstelsel is. De verzameling van alle rotaties om de oorsprong staat bekend als de rotatiegroep SO(3).

De bijbehorende rotatie van een object heeft alleen betrekking op de relatie tussen de begin- en eindstand. Dit moet worden onderscheiden van rotatie van een object als proces (met tussenstanden).

Definitie 
Een rotatie kan gedefinieerd worden als een afbeelding van de ruimte naar zichzelf met de volgende eigenschappen: 
 de afbeelding is een isometrie: de afstand tussen twee willekeurige punten blijft ongewijzigd;
 de afbeelding behoudt de oriëntatie (in tegenstelling tot spiegelingen);
 de afbeelding heeft ten minste één dekpunt, d.w.z. een punt dat ongewijzigd blijft bij de rotatie (dit in tegenstelling tot schroeftransformaties).

De triviale rotatie is de identieke afbeelding.

Volgens een stelling van Euler heeft elke niet-triviale rotatie in de driedimensionale ruimte een unieke rotatieas, d.w.z. een lijn die puntsgewijs onveranderd blijft. De rotatie-as is dus de verzameling dekpunten van de rotatie.

Rotatieas en rotatiehoek 
Elke rotatie om de oorsprong kan worden beschreven als een paar , waarin  een eenheidsvector is die de richting van de rotatieas beschrijft, en  de draaihoek, waarbij meestal de rechterhandregel wordt gebruikt om de positieve draairichting te koppelen aan de vector. Deze voorstelling is uniek op de volgende symmetrieën na:
 alle rotaties met  zijn gelijk aan de triviale rotatie;
 de rotatie  is gelijk aan de rotatie ;
 als de draaihoek wordt verhoogd of verlaagd met een veelvoud van  levert dat dezelfde rotatie op.

Bij een rechtsdraaiend coördinatenstelsel betekent toepassing van de rechterhandregel dat bij draaiing om de
 +x-as de draaihoek positief gerekend wordt als de +y-as naar de +z-as gedraaid wordt
 +y-as de draaihoek positief gerekend wordt als de +z-as naar de +x-as gedraaid wordt
 +z-as de draaihoek positief gerekend wordt als de +x-as naar de +y-as gedraaid wordt

Invariantie van lengtes en hoeken 
Per definitie is een rotatie een isometrie, zodat de afstand tussen punten onveranderd blijft bij de rotatie. Voor ieder tweetal punten  geldt onder de rotatie :

Rotaties om de oorsprong behouden daarom ook de lengte van vectoren:

The hoek tussen twee lijnen of vectoren blijft ook onveranderd onder rotatie:
.
Dit volgt uit het feit dat

Samenstelling van rotaties 

Voert men twee rotaties  en  om de oorsprong na elkaar uit, dan is het resultaat weer een rotatie om de oorsprong. De samenstelling  (" na "), of eenvoudigweg genoteerd als , is ook een rotatie om de oorsprong. Samenstelling van rotaties is niet commutatief: de volgorde waarin rotaties worden uitgevoerd kan verschil uitmaken. 

De samenstelling maakt de verzameling van alle rotaties om de oorsprong tot een groep, genaamd rotatiegroep of SO(3).

Als de rotaties plaatsvinden om dezelfde as, kunnen de rotatiehoeken eenvoudig worden opgeteld:

In andere gevallen is het lastiger om de nieuwe rotatieas en -hoek te berekenen. Voor zulke gevallen is het handig de rotatie voor te stellen door middel van een matrix of met behulp van Euler-Rodrigues parameters (zie hieronder).

Directe berekening van rotaties 
Rotaties om een coördinaatas zijn eenvoudig te berekenen. De volgende formules geven een rotatie om hoek  om de z-as:

Voor een willekeurige rotatieas geldt de volgende vectorformule van Olinde Rodrigues:

Matrixvoorstelling van rotaties 
Een rotatie om de oorsprong is een lineaire transformatie en kan daarom worden beschreven met behulp van een rotatiematrix . Deze matrix is orthogonaal met determinant gelijk aan 1. Het effect van de rotatie op een punt kan nu worden geschreven als een matrixvermenigvuldiging:

De matrices voor rotaties om de coördinaatassenas hebben de volgende standaardvorm:

Voor rotatie om de +x-as over de hoek  

Voor rotatie om de +y-as over de hoek  

Voor rotatie om de +z-as over de hoek

Algemene formule voor de rotatiematrix 
Voor een algemene rotatie om de oorsprong geldt:
.
Dit kan ook als volgt worden geschreven:
,
met
;
of ook
.

Samenstellen van rotatiematrices 
Als de rotaties zijn gegeven in de vorm van matrices, is de samengestelde rotatie eenvoudig te berekenen als het product van de beide matrices. Bijvoorbeeld, als  een rotatie van 60° om de z-as is, en  een rotatie van −90° om de x-as, dan is de samenstelling

Merk op dat

Hoeken van Euler 
In de luchtvaart en ruimtevaart worden rotaties soms gegeven door middel van de hoeken van Euler. Deze beschrijven de rotatie als een samenstelling van drie rotaties om coördinaatassen. Verschillende combinaties van assen zijn mogelijk. Een ervan is de zogeheten z-x'-z"-conventie, waarbij eerst een draaiing om de z-as plaatsvindt over de eerste eulerhoek, dan een draaiing om x', de inmiddels gedraaide x-as, over de tweede eulerhoek, en tot slot om z", de gedraaide z-as, over de derde eulerhoek.

Euler-Rodrigues-parameters 
Euler-Rodrigues-parameters zijn vier getallen  waarmee een  driedimensionale rotatie  kan worden beschreven. Voor de parameters geldt:

Het verband met de rotatie  is:

De parameter  wordt wel de 'scalaire' parameter genoemd, en  de 'vector'-parameter.

Euler-Rodrigues-parameters geven wel een continue parametrisering van de rotatiegroep; de parameters zijn uniek op het teken na. Met andere woorden,  en  beschrijven dezelfde rotatie.

De triviale rotatie wordt beschreven als . De inverse van een rotatie kan worden berekend door het vector-deel te inverteren: .

Toepassing van een rotatie op een vector heeft nu de volgende vorm:
;
de bijbehorende matrix is
.

Samenstelling van rotaties 
Als  en  de Euler-Rodrigues-parameters zijn van twee rotaties, kan de samengestelde rotatie worden berekend via:

Relatie met quaternionen 
Bovenstaande vergelijkingen voor het samenstellen van Euler-Rodrigues-parameters zijn identiek aan de vergelijkingen voor het vermenigvuldigen van quaternionen. Een rotatie kan daarom worden beschreven als een quaternion van lengte 1:
.
Het reële deel van de quaternion is de scalaire parameter ; het imaginaire deel is de vector-parameter .

Opnieuw geldt dat  dezelfde rotatie beschrijft als .

Relatie met spinoren 
De Euler-Rodrigues-parameters kunnen ook worden vertaald naar een tweedimensionale, complexe, unitaire matrix:
.
Men kan dit beschouwen als de som

waar  de Pauli-spinmatrices zijn. De Euler-Rodrigues-parameters beschrijven dus de coëfficiënten van de representatie van een rotatie in de spinorgroep SU(2).

Oneigenlijke rotaties 
Een oneigenlijke rotatie is een isometrie met een dekpunt die de oriëntatie van de ruimte omkeert. In de driedimensionale ruimte kan elke oneigenlijke rotatie worden beschreven als de spiegeling in een vlak.

De matrixrepresentatie van een oneigenlijke rotatie heeft een determinant gelijk aan −1, terwijl een eigenlijke rotatie een determinant van +1 heeft.

Meetkunde