NPGR001 3D počítačové vidění / 3D computer vision

Zimní semestr 2021/2022, přednáška 90 minut týdně. Semináře/laboratoře 90 minut týdně v Českém institutu informatiky, robotiky a kybernetiky ČVUT.
Winter semester 2021/2022, lecture 90 minutes weekly. Seminars/labs 90 minutes weekly at the Czech Institute of Informatics, Robotics, and Cybernetics, CTU.

Anotace předmětu / Subject annotation

Předmět seznámí s metodami trojrozměrného (3D) počítačového vidění. Nejdříve ve třech přednáškách shrneme potřebné pojmy z digitálního zpracování/analýzy obrazu. Navážeme popisem jedné (intenzitní, RGB) kamery a související geometrií. Naučíme se použít dvě a více kamer pro zjišťování hloubky ve scéně a 3D rekonstrukci. Přidáme další hloubkové senzorické modality, a to lidary, radary, sonary. Vysvětlíme, jak sdružovat informaci z různorodých senzorů. Metody budeme prakticky ilustrovat na úlohách spojených se samořiditelnými auty.

The subject introduces 3D computer vision methods. I will use three intial lectures to summarize needed concepts from the digital image processing/analysis. I will explain one (intensity, RGB) camera and related geometry. We will learn how to use two or more cameras to learn depth in the scene and perform 3D reconstructioni. We will add other depth sensory modalities as lidars, radars, sonars. We will explain how to fuse information from different sensors. We will illustrate the learned material mainly in the autonomous driving domain.

Přednáška / Lecture

Přednáška je v angličtině se koná v pondělí od 9:00 do 10:30 v CIIRC ČVUT, Praha 6, Dejvice, Jugoslávských partyzánů 1580/3, budova B, 6. patro, místnost JP:B-633. Přednáška a následující cvičení/laboratoř bude ve stejné místnosti.

The lecture given in English takes place on Monday from 10:40 to 12:10 at CIIRC CTU, Praha 6, Dejvice, Jugoslávských partyzánů 1580/3, building B, 6th floor, room JP:B-633. The lecture will be followed by a practical/laboratory session in the same room.

prof. Ing. Václav Hlaváč, CSc.
Český institut informatiky, robotiky a kybernetiky ČVUT, Praha 6, Dejvice, Jugoslávských partyzánů 1580/3, místnost JP:B-610
telefon 224 357 465, mobil 603 149 689
vaclav.hlavac@cvut.cz, http://people.ciirc.cvut.cz/hlavac/

Dr. Ing. Josef Šivic
Český institut informatiky, robotiky a kybernetiky ČVUT, Praha 6, Dejvice, Jugoslávských partyzánů 1580/3, místnost JP:B-639
telefon 224 357 465, mobil 773 896 548
josef.sivic@cvut.cz, http://www.di.ens.fr/~josef/

J. Šivic's diploma theses topics for students.

Plán přednášek (plán před přednáškou a skutečnost po přednášce); Lecture plan (plan before the lecture, reality after the lecture)

Týden	Datum	Kdo	Obsah přednášky
1	04.10.2021	VH	Přehled digitálního zpracování obrazu (prezentace). Vlastnosti digitálního obrazu (prezentace). Jasové a geometrické transformace (prezentace). Digital image processing overview. (presentation) Digital image properties (presentation), brightness and geometric transforms (presentation)
2	11.10.2021	VH	Předzpracování obrazů (prezentace). Detekce hran a zájmových bodů/oblastí (prezentace). Image preprocessing (presentation). Detection of edges, interest points/regions (presentation).
3	18.10.2021	VH	Vidění jako špatně podmíněná úloha fyziky pořízení obrazu (prezentace). Praktická optika. Radiální zkreslení (prezentace). Vision as an ill-posed physics task of image formation (presentation). Practical optics. Radial distrortion (presentation).
4	25.10.2021	VH	Objekty v obraze, nutnost interpretace, segmentace objektů. Optimalizace náhodným vzorkováním (RANSAC). Objects in the image. Need for interpretation. Object segmentation. (presentations) Random Sampling and Consensus (RANSAC) (presentation)
5	01.11.2021	JŠ	Úloha korespondence a její řešení. Coorespondence problem and its solution. (presentation)
6	08.11.2021	VH	3D počítačové vidění, cíle, různé teorie a aplikace. (presentation) 3D computer vision, aims and applications. (presentation)
7	15.11.2021	VH	Geometrie pro popis tuhého tělesa ve 3D. Projektivní transformace. Gometrie jedné perspektivní kamery. Projekční matice a její rozklad. Kalibrace jedné kamery. Geometry describing a solid body in 3D. Projective transform. Geometry of a single perspective camera. Projective matrix and its decomposition. One camera calibration. (presentation)
8	22.11.2021	JŠ	Rychlé vizuální vyhledávání. Efficient visual search. (presentation)
9	29.11.2021	VH	Geometrie dvou kamer, epipolární omezení, fundamentální a esenciální matice. Geometrie více kamer. Geometry of two cameras. Epipolar constraint. Fundamental and essential matrices. Geometry of more cameras. (presentation)
10	06.12.2021	JŠ	Učení ze slabých anotací v obrazech a ve videu, také pomocí hlubokých sítí. Learning from weak annotations in images and video, also using deep networks. (presentation)
11	13.12.2021	VH	Rekonstrukce 3D scény z několika pohledů. Úloha Tvar/struktura z pohybu (shape/structure from motion). Vyrovnání svazku (bundle adjustment). 3D scene reconstruction from several views. Task Shape/structure from motion. Bundle adjustment. (presentation)
12	20.12.2021	VH	Hloubkové senzory (lidar, radar, sonar, kamery se strukturovaným světlem). Fúze dat z různých hloubkových senzorů. Depth sensors (lidar, radar, sonar, cameras with structured light). Data fusion from different depth sensors. (presentation)
			Vánoční prázdniny. Christmas holidays.
13	03.01.2021	VH	Metody zpracování hloubkových map (mraků bodů). Iterative closest points (ICP) algoritmus. Shlukování 3D bodů. Ukázky. Praktická aplikace 3D vidění v samořiditelném autě. Depth maps (point clouds) processing methods. Iterative closest points (ICP) algorithm. Use cases. 3D vision use-cases in self-driving domain. (presentation) (Maks Ovsjanikov's presentation)

Okamžitý stav všech průsvitek Václava Hlaváče pro přednášky je česky, in English.
The present state of Václav Hlaváč's presentation is here, in English

Doporučená literatura / Recommended literature:

Šonka M., Hlaváč V., Boyle R.: Image Processing, Analysis and Machine vision, 4th edition, Cengage Learning, Inc , 2015. Asi deset kopií je k dispozici v knihovně Centra strojového vnímání, katedry kybernetiky FEL.
Szeliski R.: Computer Vision: Algorithms and Application, Springer, Berlin, 2010. 812 p. The book draft is freely available for download.
Hartley R., Zisserman A: Multiple View Geometry in Computer Vision, Second edition, Cambridge University Press, March 2004. The downloadable draft.
Karu Z.Z.: Signals and Systems Made Ridiculously Easy, ZiZi Press, Cambridge, MA, USA, 2001, (download scanned version). Velmi útlou knihu doporučuji těm, kdo neprošli kursem zpracování signálů, ale i těm, kdo si chtějí upevnit základ nepříliš formálním čtením. I recommend a tiny book to those who have not taken a signal processing course, but also to those who want to strengthen their foundations by reading a rather informal text.
Doxiadēs, A. K., Papadimitriou, C. H., Papadatos, A., & Di, D. A. Logicomix. An Epic Search for Truth. New York: Bloomsbury, 2009. , You can download a free copy from https://archive.org/details/Logicomix-Comic-EarlyLifeOfBertrandRussell/mode/2up
Doxiadēs, A. K., Papadimitriou, C. H., Papadatos, A., & Di, D. A. Logikomiks, Hledání absolutní pravdy, český překlad Dokořán 2012, ISBN: 978-80-7363-401-8 / 336 stran, přeložil Jaroslav Peregrin

Exkurse, výzkumná spolupráce, nabídka vedení ročníkových, bakalářských a diplomových prací.
Excursion, research collaboration, offer to supervise year, bachelor and diploma projects.
Oblasti přednášek odpovídá výzkumná aktivita několika výzkumníků z rostoucího vysokoškolského ústavu CIIRC ČVUT. Předmět nabízí studentům, aby se o výzkumu více dozvěděli. Exkurse byla 1. 11. 2021.
Several researchers from our growing university research institute CIIRC investigate topics related to the subject. We offer the students the possibility to learn about this research more. The excursion was on Nov 1, 2021.

Cvičení / Seminars

(seminární i laboratorní) (seminars and labs)
Cvičení jsou v / Seminars are at CIIRC ČVUT, Praha 6, Jugoslávských partyzánů 1580/3, místnost JP:B-633, případně v blízkých laboratořích v pondělí od (pravděpodobně) 12:20 do 13:50. Přesná domluva bude na první přednášce podle rozvrhu.

Ing. Martin Matoušek, Ph.D.
Český institut informatiky, robotiky a kybernetiky ČVUT, místnost JP:B-606b
martin.matousek@cvut.cz, http://people.ciirc.cvut.cz/~xmatousm/

Ve cvičení se student má prakticky seznámit s vybranými partiemi předmětu. Ve cvičení budou studenti řešit tři praktické úlohy. Podmínkou získání zápočtu je splnění úloh a nepříliš formální zpráva o řešení.
A student has to learn selected topics at seminars practically. Students will soilve three practical tasks at seminars. The prerequisit of the credit is the fulfilment o tasks and rather informal report about the solution.

Zkoušení, postup, podmínky zkoušky: / Examining, procedure, examination conditions:

Písemná část prověří studentův přehled v předmětu šesti otázkami. Na odpovědi v celém testu bude 30 minut. Bezprostředně po odevzdání bude test opraven. Otázky pro konkrétní zkušební termín se náhodně vyberou ze seznamu otázek (mohou se měnit do začátku zkouškového období). Tento seznam otázek také radí studentovi, která témata by měl umět ke zkoušce a uměl si tak vybrat v podrobnějším studijním materiálu v poskytnutých průsvitkách a doporučené literatuře.
Written part tests students' overview by six question. There will be 30 minutes to finish the entire test. The test will be corrected right after it is written. Question for the particular test date will be selected randomly from the a priori known question list (it can be modified before examining starts). The list also hints the student which topis she/he could select for more thorough study.
Ústní část: Podrobnější studentova znalost se u zkoušky ověřuje diskusí nad vědeckým článkem, který si student sám vybere a přinese vytištěný ke zkoušce. Článek se musí vztahovat k tématu přednášky, tj. k počítačovému vidění nebo robotice. Volbou článku student sám ovlivní oblast diskuse do větší hloubky. Striktně se požaduje, aby článek byl následujícího seznamu prestižních časopisů a konferencí a nebyl starší pěti let: IEEE Transactions on Pattern Analysis and Machine Intelligence; International Journal of Computer Vision. Ujistěte se, že článek je opravdu z tohoto seznamu. Univerzita platí elektronický přístup k časopisům i konferencím. Nevybírejte články zaměřené na hluboké neuronové sítě. Tato oblast není usazená a těžko se zkouší.
Oral part: The deeper student's knowledge is tested by discussing a scientifc paper. The student brings the printed out paper to the lecture. The paper should relate to the subject, i.e. to computer vision or robotics. Student's paper selection influences influences the depth of the discussion. I require strictly that the paper is from the following list of journals and is not older than five years: IEEE Transactions on Pattern Analysis and Machine Intelligence; International Journal of Computer Vision. The university pays the electronic access to these journals. Do not select paper dealing with deep neural networks. This domain has not settled yet. It is difficult to examine it.
Hodnocení u zkoušky: Výkon ve cvičení max. 40 bodů. Písemka může být hodnocena max. 30 body. Zbylých 30 bodů do plného počtu 100 bodů je z ústního zkoušení. Hodnocení: méně než 50 - nevyhověl; 50 až 66 dobře; 67 až 83 velmi dobře; 84 až 100 výborně
Evaluation at the exam: Seminars max. 40 points. Written text max. 30 points. Oral part max. 30 points. Max total 100 points. Evaluation less than 50 points - failed; 50 to 66 good; 67 to 83 very good;, 84 to 100 excellent.
Termíny zkoušek budou vypsány v SIS. The exam dates will be announced in SIS.

Josef Šivic nabízí témata diplomových prací / offers topics of diploma theses (témata/topics).

Stránku spravuje / Maintained by Václav Hlaváč, vaclav.hlavac@cvut.cz
Poslední modifikace / last modification: 30.12. 2021 09:57