Schéma de principe d'un STM permettant l'enregistrement de la topographie de la surface d'un échantillon (balayage de la pointe dans le plan (X,Y) et déflexion selon Z commandée par le signal d'asservissement).
La microscopie à effet tunnel (Scanning Tunneling Microscopy ou STM en anglais) est une technique développée dans les laboratoires d'IBM à Zurich par Gerd Binning et Heinrich Rohrer (Prix Nobel de Physique en 1986). Cette technique est basée sur un phénomène physique connu depuis les origines de la mécanique quantique, l'effet tunnel. Un microscope à effet tunnel est constitué de deux électrodes de conductivité raisonnable dont l'une a la forme d'une pointe et l'autre est la surface du film à étudier. La distance pointe-échantillon est de l'ordre de quelques angströms. Si une tension de polarisation est appliquée entre la pointe et la surface, les électrons ont une probabilité non nulle de passer d'une électrode à l'autre et un courant tunnel va donc naître.
Le principe de l'expérience consiste à déplacer la pointe au-dessus de la surface du film (à l'aide de céramiques piézo-électriques) en maintenant le courant tunnel constant par un dispositif d'asservissement. Ainsi la distance pointe-échantillon reste constante et l'enregistrement des déplacements verticaux de la pointe reproduit alors fidèlement la topographie de la surface. Si la pointe est suffisamment fine (micro-pointe de quelques angströms), le relief observé peut avoir la résolution atomique.
L'expérience de microscopie à effet tunnel peut également fonctionner en mode spectroscopique (Scanning Tunneling Spectroscopy ou STS). Dans ce ca de figure, la pointe est maintenue fixe par rapport à la surface de l'échantillon à une position donnée. Le module d'asservissement est ouvert et une rampe de tension V(t) est appliquée entre la pointe et la surface de l'échantillon. Pour chaque tension appliquée le courant tunnel est mesuré et l'étude des caractéristiques courant-tension et de leurs dérivées permet d'accéder à la densité locale d'états électroniques en surface.
Schéma de la tête du STM Omicron sous-vide à température fixe. On distingue en particulier la pointe métallique ainsi que les trois tubes piézo-électriques.