[:fr]

Le projet ReVeRY va concevoir une grille de caméras spécifiques : un système rentable qui d’une part, va capter en une seule acquisition plusieurs points de vue à des expositions différentes, et d’autre part convertira un flux vidéo multi-vues, multi-exposé en un média riche de haute qualité. Ces dix dernières années, les mondes industriels et de la recherche ont proposé des avancées significatives dans les systèmes d’acquisition de contenu multimédia dans trois directions principales : l’augmentation de la résolution et de la qualité d’image avec le standard Ultra Haute Définition (UHD) ; l’acquisition stéréoscopique pour du contenu 3D ; et les images à grande gamme dynamique (HDR). La compression, la représentation, et l’interopérabilité de ces nouveaux médias sont des domaines de recherches actifs afin de réduire la taille des données tout en assurant une perception précise. Les industries créatives sont confrontées aux limitations des médias actuels. Le pipeline d’acquisition traditionnel utilise et produit des flux vidéo, UHD, stéréo ou HDR. En post-production, les changements possibles (i.e., point de vue, cadrage, ouverture et l’éclairage) sont restreints, le directeur du film devant re-filmer la même scène pour obtenir les modifications souhaitées. A présent, un choix en pré-production peut être réalisé suivant la nature du média à capter (2D, stereo, or HDR) et selon l’utilisation prévue. Toutefois, ces choix ne sont jamais proposés conjointement.

Une avancée majeure du projet consiste à résoudre conjointement une reconstruction de profondeur en haute gamme dynamique. Combiner UHD et HDR renforcera le média produit par une précision et qualité colorimétrique et géométrique, surpassant ainsi les formats vidéo existants. Sa nature même permettra nouveaux usages, tels que le recadrage, la génération de nouveau point de vue et le ré-éclairage à la fois dans les étapes de post-production et de visualisation. Ces nouveaux usages faciliteront l’adaptation en direct pour différents types d’écrans : théâtre, TV, Cloud, HDR ou non, 2D ou 3D. Cette dernière caractéristique rend ce nouveau média véritablement polyvalent face aux différentes conditions de consommation.

Les énormes investissements de marché dans la réalité virtuelle (VR) la positionnent comme un nouveau média. Les écrans immersifs VR sont aujourd’hui très limités, et restreignent l’utilisateur au centre d’une sphère tapissée d’images multi-axiales 2D. Les caméras virtuelles de la réalité virtuelle proposent une vision à 360°, mais limitée à une pauvre et unique transcription 3D concave. Une VR «libérée» nécessite la création d’outils de reconstruction 3D convexes utilisant l’organisation de caméras spécifiques pour la numérisation 3D d’environnements réels et d’acteurs en mouvement, offrant à l’utilisateur une liberté de visualisation totale grâce au positionnement illimité et aux résolutions adaptées d’une véritable caméra virtuelle (stéréoscopique ou non).

ReVeRY veut fournir des solutions pour remplacer les média vidéo traditionnel (mono, stereoscopique or 360°) par un flux de données plus riche surmontant tous les verrous listés précédemment. Ce média plus riche intégrera conjointement les informations UHD, HDR et profondeur dans un format dédié. Le projet proposera ce nouveau média avec une ou plusieurs représentations adéquates, développera un prototype du système d’acquisition dédié et montrera leur intérêt pour l’industrie de la création. Le projet permettra une postproduction polyvalente et une réutilisation des prises de vues d’action en direct dans une gamme d’intensités d’éclairage moins restreintes (par exemple, des scènes extérieures). Son résultat est important avec un double impact: (i) sociétal (pour les consommateurs et les experts), en augmentant la qualité du contenu, et (ii) économique, en réduisant les coûts de production.L’approche de création évoluera pour fournir au public une nouvelle expérience de visualisation.

[:en]

The ReVeRY project will design a specific GRID OF CAMERAS, a cost-efficient system that acquires at once several viewpoints under several exposures and will convert a multiview, multiexposed, video stream into a high quality rich media. In the last two decades, industries and researchers proposed significant advances in media content acquisition systems in three main directions: increase of resolution and image quality with the new ultra-high-definition (UHD) standard; stereo capture for 3D content; and high-dynamic range (HDR) imaging. Compression, representation, and interoperability of these new media are active research fields in order to reduce data size and be perceptually accurate. The creative industries face issues associated to limited possibilities offered by current media. The traditional acquisition pipeline uses and outputs video streams, either UHD, stereo or HDR. After shooting, possible changes on the media (i.e., viewpoint, framing, aperture, lighting) are limited which may force a film director to shoot the scene again if any changes are necessary. For now, a pre-shooting choice is made according to the nature of the media to capture (2D, stereo, or HDR) depending on the foreseen use. However, these choices are currently never jointly offered.

A major breakthrough of the project is to resolve jointly HDR and depth reconstruction. The ReVeRY project UHD and HDR will endow the produced media with geometrical and color precision and quality surpassing current video media formats. Its very nature will furthermore conveniently allow new usages, such as reframing, free viewpoint, and relighting at both postproduction and visualization stages and facilitate live adaptation to different types of displays: theatre, TV, Cloud, HDR or not, 2D or 3D. This later feature makes the new media truly versatile according to consumption conditions.
The huge market investments in virtual reality (VR) are positioning it as a plain new media. VR immersive screens are today very limited, only trapping the user in a sphere’s center of 2D multiaxial images. The virtual cameras of virtual reality propose 360° viewing of a poor and only concave 3D transcriptions. A « liberated » VR requires the creation of convex 3D reconstruction tools using specific camera’s organization for 3D scanning of real environments and moving actors, giving the user total freedom of visualization through unlimited positioning and adaptive resolutions of a true virtual camera (stereoscopic or not).

ReVeRY wants to remedy the lack of a joint representation of the different media formats discussed above. This project aims at providing solutions to replace the traditional video media (mono, stereoscopic or 360°) by a richer data stream overcoming all previously listed bottlenecks. This richer media will jointly embed UHD, HDR, and Depth information in a dedicated format. The project will propose this new media along with one or more suitable representations, develop a demonstrative prototype of a dedicated acquisition system, and prove their benefits to media creation industry. The project will enable versatile postproduction and re-usability of single shootings of live action under less-restrained range of lighting intensities (e.g., outdoor scenes). Its outcome is important with a twofold impact: societal (for consumers and experts), by increasing content quality and economical, by reducing production costs. Ultimately, the creation approach will evolve to provide a completely new experience of screen viewing to the public.

[:]