Dans ces domaines, les objets que l'on manipule sont des points, des droites, des sphères, ...et les grandeurs qui décrivent les propriétés de ces objets sont, par nature, indépendants du repère que l'on choisit pour calculer ces grandeurs. Le groupe des changements de repères laisse donc invariant ces quantités géométriques. Ainsi la théorie des invariants fournit un cadre naturel à la modélisation de ces problèmes géométriques. Cette théorie, assez ancienne (voir par exemple le programme proposé dans [ KL]) et un peu tombée dans l'oubli, connaît actuellement un renouveau lié à la géométrie algébrique effective et aux calculs symboliques sur ordinateurs (voir par exemple [ ST]). L'objectif que nous poursuivons ici est donc d'utiliser et de développer les résultats et le formalisme de la théorie des invariants dans les domaines d'applications cités ci-dessus. Ainsi dans [MoSt94] et [MoSt95], nous proposons un environnement homogène pour le traitement symbolique des objets géométriques habituels. Pour traduire l'appartenance d'un point à un plan, à une sphère, l'incidence de droites, la cocyclicité, nous nous plaçons dans l'algèbre extérieure et nous calculons avec des déterminants. Pour manipuler des déplacements, nous nous plaçons dans l'algèbre de Clifford, et travaillons avec des quaternions (ou des quaternions duaux). Cette approche a l'avantage de fournir des représentations plus synthétiques (plus géométriques) des expressions manipulées, en les rendant plus facilement interprétables, ce qui peut être utile dans beaucoup d'applications.
Le renouveau dans ce domaine passe par de nouvelles applications, où la théorie des invariants trouve naturellement sa place. L'étude des lieux critiques des mécanismes à plusieurs corps, par exemple, fait intervenir des calculs dans la Grassmanienne des droites. Ces configurations singulières se décrivent à partir de relations géométriques sur les droites associées aux articulations de ces mécanismes ; et des méthodes issues de la théorie des invariants, comme les lois de redressement dans l'algèbre des déterminants, les opérations d'intersection et de somme dans l'algèbre de Cayley, ...trouvent naturellement leurs applications. Elles pourraient également conduire à des développements intéressants, dans des problèmes ouverts en théorie des mécanismes comme la classification des structures bouclées à 4,5,6 corps. Comme nous le verrons plus loin, ces outils sont également utiles pour la reconstruction en vision artificielle et l'analyse des correspondances entre plusieurs caméras (voir section 5 et [FaMo95a],[FaMo95b], [FaMo95rr2665]).
De manière plus générale, nous nous sommes intéressés à la description des invariants associés à une action de groupe, comme par exemple les changements de variables sur les polynômes. Pour les actions de groupes classiques, un théorème général (initié par les célèbres travaux de D. Hilbert [ HI]) montre que l'algèbre des invariants est engendrée par un nombre fini d'éléments. Ces générateurs nous donnent alors les informations intrinsèques fondamentales de la configuration que l'on étudie. Pourtant le calcul des générateurs, bien qu'étant une préoccupation très ancienne, n'a pour l'instant pas de réponse algorithmique acceptable (dans [ DI], on trouvera un panorama complet de ce que l'on sait et ne sait pas encore calculer, dans ce domaine). Une première étape dans la résolution de ce programme consiste à savoir (pour une action de groupe donnée) combien il existe d'invariants principaux, secondaires et leurs degrés. C'est l'objectif d'un travail sur le calcul de séries de Hilbert d'algèbres d'invariants de Sln pour des actions classiques, présenté dans [MoSt93]. Cette approche ne conduit pas pour l'instant à une description complète des algèbres d'invariants. Une recherche algorithmique poussée dans cette direction aurait des répercussions intéressantes, dans le traitement de problèmes géométriques, où les informations intrinsèques sont importantes.
L'automatisation des démonstrations en Mathématiques et, en particulier en Géométrie, est un rêve qui fascine. Ce rêve se rapproche de la réalité, comme le montre par exemple [ CH], où la vérification de propriétés géométriques de figures se fait par des méthodes algébriques travaillant sur des invariants. Ces manipulations d'invariants permettent alors plus facilement de traduire les calculs algébriques en raisonnements géométriques. Un travail avait été commencé dans cette direction dans [MB91th]. Il permettait de tester automatiquement des relations d'incidence, les calculs étant faits dans l'algèbre extérieure sur des quantités intrinsèques (voir [geo], [MB92adv], [MB90mega]). Néanmoins, ces travaux, bien que très attirants en eux-mêmes, ne seront plus seulement que du domaine du rêve s'ils ne sont liés à des applications pertinentes. Aussi, envisageons nous actuellement de les utiliser en vision artificielle, comme outils de vérifications et d'analyse des propriétés géométriques d'images et d'aide à la reconstruction en trois dimensions.