NPGR001 3D počítačové vidění / 3D computer vision

Zimní semestr 2023/2024, přednáška 90 minut týdně. Semináře/laboratoře 90 minut týdně v Českém institutu informatiky, robotiky a kybernetiky ČVUT.
Winter semester 2023/2024, lecture 90 minutes weekly. Seminars/labs 90 minutes weekly at the Czech Institute of Informatics, Robotics, and Cybernetics, CTU.

Anotace předmětu / Subject annotation

Předmět seznámí s metodami trojrozměrného (3D) počítačového vidění. Nejdříve ve třech přednáškách shrneme potřebné pojmy z digitálního zpracování/analýzy obrazu. Navážeme popisem jedné (intenzitní, RGB) kamery a související geometrií. Naučíme se použít dvě a více kamer pro zjišťování hloubky ve scéně a 3D rekonstrukci. Přidáme další hloubkové senzorické modality, a to lidary, radary, sonary. Vysvětlíme, jak sdružovat informaci z různorodých senzorů. Metody budeme prakticky ilustrovat na úlohách spojených se samořiditelnými auty.

The subject introduces 3D computer vision methods. I will use three intial lectures to summarize needed concepts from the digital image processing/analysis. I will explain one (intensity, RGB) camera and related geometry. We will learn how to use two or more cameras to learn depth in the scene and perform 3D reconstructioni. We will add other depth sensory modalities as lidars, radars, sonars. We will explain how to fuse information from different sensors. We will illustrate the learned material mainly in the autonomous driving domain.

Přednáška / Lecture

Přednáška je v angličtině se koná v pondělí od 9:00 do 10:30 v CIIRC ČVUT, Praha 6, Dejvice, Jugoslávských partyzánů 1580/3, budova B, 6. patro, místnost JP:B-633. Přednáška a následující cvičení/laboratoř bude ve stejné místnosti.

The lecture given in English takes place on Monday from 9:00 to 10:30 at CIIRC CTU, Praha 6, Dejvice, Jugoslávských partyzánů 1580/3, building B, 6th floor, room JP:B-633. The lecture will be followed by a practical/laboratory session in the same room.  

prof. Ing. Václav Hlaváč, CSc.
Český institut informatiky, robotiky a kybernetiky ČVUT, Praha 6, Dejvice, Jugoslávských partyzánů 1580/3, místnost JP:B-610
telefon 224 357 465, mobil 603 149 689

vaclav.hlavac@cvut.cz
, http://people.ciirc.cvut.cz/hlavac/

Dr. Ing. Josef Šivic
Český institut informatiky, robotiky a kybernetiky ČVUT, Praha 6, Dejvice, Jugoslávských partyzánů 1580/3, místnost JP:B-639
telefon 224 357 465, mobil 773 896 548
josef.sivic@cvut.cz, http://www.di.ens.fr/~josef/

Plán přednášek (plán před přednáškou a skutečnost po přednášce); Lecture plan (plan before the lecture, reality after the lecture)

Týden Datum Kdo Obsah přednášky
1 02.10.2023 VH Přehled digitálního zpracování obrazu (prezentace). Vlastnosti digitálního obrazu (prezentace). Jasové a geometrické transformace (prezentace). Digital image processing overview. (presentation) Digital image properties (presentation), brightness and geometric transforms (presentation)
2 09.10.2023 VH Předzpracování obrazů (prezentace). Hrany, hranové body, ostření (prezentace). Detekce hran a zájmových bodů/oblastí (prezentace).
Image preprocessing (presentation). Edges, edgels, sharpening (presentation). Interest points/regions (presentation).
3 16.10.2023 VH Vidění jako špatně podmíněná úloha fyziky pořízení obrazu (prezentace). Praktická optika. Radiální zkreslení (prezentace).
Vision as an ill-posed physics task of image formation (presentation). Practical optics. Radial distrortion (presentation).
4 23.10.2023 VH Objekty v obraze, nutnost interpretace, segmentace objektů. Optimalizace náhodným vzorkováním (RANSAC).
Objects in the image. Need for interpretation. Object segmentation. (presentations) Random Sampling and Consensus (RANSAC) (presentation)
5 30.10.2023 Úloha korespondence a její řešení. Coorespondence problem and its solution. (presentation)
6 06.11.2023 Rychlé vizuální vyhledávání. Efficient visual search. (presentation)
7 13.11.2023 VH 3D počítačové vidění, cíle, různé teorie a aplikace. (presentation) 3D computer vision, aims and applications. (presentation)
8 20.11.2023 VH Geometrie pro popis tuhého tělesa ve 3D. Projektivní transformace. Gometrie jedné perspektivní kamery. Projekční matice a její rozklad. Kalibrace jedné kamery.
Geometry describing a solid body in 3D. Projective transform. Geometry of a single perspective camera. Projective matrix and its decomposition. One camera calibration. (presentation)
9 27.11.2022 Učení ze slabých anotací v obrazech a ve videu, také pomocí hlubokých sítí.
Learning from weak annotations in images and video, also using deep networks. (presentation)
10

04.12.2023

VH Geometrie dvou kamer, epipolární omezení, fundamentální a esenciální matice. Geometrie více kamer. Rekonstrukce 3D scény z několika pohledů.
Geometry of two cameras. Epipolar constraint. Fundamental and essential matrices. Geometry of more cameras. (presentation) 3D scene reconstruction from several views.
11 11.12.2023 VH  Úloha Tvar/struktura z pohybu (shape/structure from motion). Vyrovnání svazku (bundle adjustment).
 Task Shape/structure from motion. Bundle adjustment. (presentation)
12 18.12.2023 VH Hloubkové senzory (lidar, radar, sonar, kamery se strukturovaným světlem). Fúze dat z různých hloubkových senzorů.
Depth sensors (lidar, radar, sonar, cameras with structured light). Data fusion from different depth sensors. (presentation)
    Vánoční prázdniny. Christmas holidays.
13 08.01.2024 VH Metody zpracování hloubkových map (mraků bodů). Iterative closest points (ICP) algoritmus. Shlukování 3D bodů. Ukázky. Praktická aplikace 3D vidění v samořiditelném autě.
Depth maps (point clouds) processing methods.  Iterative closest points (ICP) algorithm. Use cases. 3D vision use-cases in self-driving domain. (presentation) (Maks Ovsjanikov's presentation)

Okamžitý stav všech průsvitek Václava Hlaváče pro přednášky je česky, in English.
The present state of Václav Hlaváč's presentation is here, in English

K samostudiu, kdo tyto prerekvizity z matematiky nezná: Probability and statistics, rehersal. Optimization methods, an overview. Least squares.

Presentations for self-study for those who do not know these prerequisites: Probability and statistics, rehersal. Optimization methods, an overview. Least squares.

 Doporučená literatura / Recommended literature:

  1. Šonka M., Hlaváč V., Boyle R.: Image Processing, Analysis and Machine vision, 4th edition, Cengage Learning, Inc , 2015. Asi deset kopií je k dispozici v knihovně Centra strojového vnímání, katedry kybernetiky FEL. 
  2. Szeliski R.: Computer Vision: Algorithms and Application, Springer, Berlin, 2010. 812 p. The book draft is freely available for download.
  3. Hartley R., Zisserman A: Multiple View Geometry in Computer Vision, Second edition, Cambridge University Press, March 2004. The downloadable draft.
  4. Karu Z.Z.: Signals and Systems Made Ridiculously Easy, ZiZi Press, Cambridge, MA, USA, 2001, (download scanned version). Velmi útlou knihu doporučuji těm, kdo neprošli kursem zpracování signálů, ale i těm, kdo si chtějí upevnit základ nepříliš formálním čtením. I recommend a tiny book to those who have not taken a signal processing course, but also to those who want to strengthen their foundations by reading a rather informal text.
  5. Doxiadēs, A. K., Papadimitriou, C. H., Papadatos, A., & Di, D. A. Logicomix. An Epic Search for Truth. New York: Bloomsbury, 2009. , You can download a free copy from https://archive.org/details/Logicomix-Comic-EarlyLifeOfBertrandRussell/mode/2up
  6. Doxiadēs, A. K., Papadimitriou, C. H., Papadatos, A., & Di, D. A. Logikomiks, Hledání absolutní pravdy, český překlad Dokořán 2012, ISBN: 978-80-7363-401-8 / 336 stran, přeložil Jaroslav Peregrin

Exkurse, výzkumná spolupráce, nabídka vedení ročníkových, bakalářských a diplomových prací.
Excursion, research collaboration, offer to supervise year, bachelor and diploma projects.

Oblasti přednášek odpovídá výzkumná aktivita několika výzkumníků z rostoucího vysokoškolského ústavu CIIRC ČVUT. Předmět nabízí studentům, aby se o výzkumu více dozvěděli. Pokud studenti budou chtít, uvažujeme o exkurzi do automobilky Toyota v Ovčárecn u Kolína začátkem prosince 2023.
Several researchers from our growing university research institute CIIRC investigate topics related to the subject. We offer the students the possibility to learn about this research more. If students express an interest, we consider visiting a car making plant Toyota in Ovčáry by Kolín at the beginning of December.


Cvičení / Seminars

(seminární i laboratorní) (seminars and labs)
Cvičení jsou v / Seminars are at  CIIRC ČVUT, Praha 6, Jugoslávských partyzánů 1580/3, místnost JP:B-633, případně v blízkých laboratořích v pondělí od (pravděpodobně) 12:20 do 13:50. Přesná domluva bude na první přednášce podle rozvrhu.

Ing. Martin Matoušek, Ph.D.
Český institut informatiky, robotiky a kybernetiky ČVUT, místnost JP:B-606b
martin.matousek@cvut.cz, http://people.ciirc.cvut.cz/~xmatousm/

Ve cvičení se student má prakticky seznámit s vybranými partiemi předmětu. Ve cvičení studenti řeší devět praktických úloh. Podmínkou získání zápočtu je splnění sedmi z devíti úloh a nepříliš formální zpráva o řešení.
A student has to learn selected topics at seminars practically. Students will soilve nine practical programming tasks at seminars. The prerequisit of the credit is the fulfilment of seven from nine tasks and rather informal report about the solution.


Zkoušení, postup, podmínky zkoušky: / Examining, procedure, examination conditions:


Josef Šivic nabízí témata diplomových prací / offers topics of diploma theses (témata/topics).

Stránku spravuje / Maintained by Václav Hlaváč, vaclav.hlavac@cvut.cz
Poslední modifikace / last modification: 23.10. 2023 17:40