NPGR001 3D počítačové vidění / 3D computer vision

Zimní semestr 2019/2020, přednáška 90 minut týdně. Semináře/laboratoře 90 minut týdně v Českém institutu informatiky, robotiky a kybernetiky ČVUT.
Winter semester 2019/2020, lecture 90 minutes weekly. Seminars/labs 90 minutes weekly at the Czech Institute of Informatics, Robotics, and Cybernetics, CTU.

Přednáška se koná v pondělí od 9:00 do 10:30 v CIIRC ČVUT, Praha 6, Dejvice, Jugoslávských partyzánů 1580/3, budova B, 6. patro, místnost JP:B-633. Na přednášku navazuje cvičení, a to ve stejné místnosti.
The lecture takes place on monday from 9:00 to 10:30 at CIIRC CTU, Praha 6, Dejvice, Jugoslávských partyzánů 1580/3, building B, 6th floor, room JP:B-633. The lecture is followed by a seminar in the same room.

Anotace předmětu / Subject annotation

Předmět seznámí s metodami trojrozměrného (3D) počítačového vidění. Nejdříve ve třech přednáškách shrneme potřebné pojmy z digitálního zpracování/analýzy obrazu. Navážeme popisem jedné (intenzitní, RGB) kamery a související geometrií. Naučíme se použít dvě a více kamer pro zjišťování hloubky ve scéně a 3D rekonstrukci. Přidáme další hloubkové senzorické modality, a to lidary, radary, sonary. Vysvětlíme, jak sdružovat informaci z různorodých senzorů. Metody budeme prakticky ilustrovat na úlohách spojených se samořiditelnými auty.

The subject introduces 3D computer vision methods. I will use three intial lectures to summarize needed concepts from the digital image processing/analysis. I will explain one (intensity, RGB) camera and related geometry. We will learn how to use two or more cameras to learn depth in the scene and perform 3D reconstructioni. We will add other depth sensory modalities as lidars, radars, sonars. We will explain how to fuse information from different sensors. We will illustrate the learned material mainly in the autonomous driving domain.

Přednáška / Lecture

prof. Ing. Václav Hlaváč, CSc.
Český institut informatiky, robotiky a kybernetiky ČVUT, Praha 6, Dejvice, Jugoslávských partyzánů 1580/3, místnost JP:B-610
telefon 224 357 465, mobil 603 149 689
vaclav.hlavac@cvut.cz, http://people.ciirc.cvut.cz/hlavac/

Dr. Ing. Josef Šivic
Český institut informatiky, robotiky a kybernetiky ČVUT, Praha 6, Dejvice, Jugoslávských partyzánů 1580/3, místnost JP:B-639
telefon 224 357 465, mobil 773 896 548
josef.sivic@cvut.cz, http://www.di.ens.fr/~josef/

J. Šivic's diploma theses topics for students.

Plán přednášek (plán před přednáškou a skutečnost po přednášce); Lecture plan (plan before the lecture, reality after the lecture)

Týden	Datum	Kdo	Obsah přednášky
1	07.10.2019	VH	Přehled digitálního zpracování obrazu (vlastnosti digitálního obrazu, jasové a geometrické transformace, předzpracování, detekce hran a zájmových bodů/oblastí). Digital image processing overview (digital image properties, brightness and geometric transforms, preprocessing, detection of edges, interest points/regions). (presentations)
2	14.10.2019	VH	Objekty v obraze, nutnost interpretace, segmentace objektů. Optimalizace náhodným vzorkováním (RANSAC). Objects in the image. Need for interpretation. Object segmentation. (presentations) Random Sampling and Consensus (RANSAC) (presentation)
3	21.10.2019	VH	3D počítačové vidění, cíle a aplikace, přehled předmětu. Praktická optika. Radiální zkreslení. 3D computer vision, aims and applications. (presentation) Subject overview. Practical optics. Radial distrortion. (presentation)
	28.10.2018		Bez přednášky. Státní svátek. No lecture. State holiday.
4	04.11.2019	JŠ	Úloha korespondence a její řešení. Coorespondence problem and its solution. (presentation)
5	11.11.2019	VH	Geometrie pro popis tuhého tělesa ve 3D. Projektivní transformace. Gometrie jedné perspektivní kamery. Projekční matice a její rozklad. Kalibrace jedné kamery. Geometry describing a solid body in 3D. Projective transform. Geometry of a single perspective camera. Projective matrix and its decomposition. One camera calibration. (presentation)
6	18.11.2019	JŠ	Rychlé vizuální vyhledávání. Efficient visual search. (presentation)
7	25.11.2019	VH	Geometrie dvou kamer, epipolární omezení, fundamentální a esenciální matice. Geometrie více kamer. Geometry of two cameras. Epipolar constraint. Fundamental and essential matrices. Geometry of more cameras. (presentation)
8	02.12.2019	JŠ	Učení ze slabých anotací v obrazech a ve videu, také pomocí hlubokých sítí. Learning from weak annotations in images and video, also using deep networks. (presentation)
9	09.12.2019	VH	Rekonstrukce 3D scény z několika pohledů. Úloha Tvar/struktura z pohybu (shape/structure from motion). Vyrovnání svazku (bundle adjustment). 3D scene reconstruction from several views. Task Shape/structure from motion. Bundle adjustment. (presentation)
10	16.12.2019	VH	Hloubkové senzory (lidar, radar, sonar, kamery se strukturovaným světlem). Fúze dat z různých hloubkových senzorů. Depth sensors (lidar, radar, sonar, cameras with structured light). Data fusion from different depth sensors. (presentation)
	23.12.2019		Vánoční prázdniny. Christmas holidays.
11	06.01.2020	VH	Metody zpracování hloubkových map (mraků bodů). Iterative closest points (ICP) algoritmus. Shlukování 3D bodů. Ukázky. Praktická aplikace 3D vidění v samořiditelném autě. Depth maps (point clouds) processing methods. Iterative closest points (ICP) algorithm. Use cases. 3D vision use-cases in self-driving domain. (presentation)(Maks Ovsjanikov's presentation)

Předmět je nově koncipovaný v 2019/2020, a tak budu vytvářet průsvitky pro přednášky průběžně. Okamžitý stav všech mých průsvitek pro přednášky je česky, in English.
The subject is newly designed 2019/2020. I will improve lecture presentations gradually. The present state of the presentation is here, in English

Doporučená literatura / Recommended literature:

Šonka M., Hlaváč V., Boyle R.: Image Processing, Analysis and Machine vision, 4th edition, Cengage Learning, Inc , 2015. Asi deset kopií je k dispozici v knihovně Centra strojového vnímání, katedry kybernetiky FEL.
Szeliski R.: Computer Vision: Algorithms and Application, Springer, Berlin, 2010. 812 p. The book draft is freely available for download.
Hartley R., Zisserman A: Multiple View Geometry in Computer Vision, Second edition, Cambridge University Press, March 2004. The downloadable draft.

Exkurse, výzkumná spolupráce, nabídka vedení ročníkových, bakalářských a diplomových prací.
Excursion, research collaboration, offer to supervise year, bachelor and diploma projects.
Oblasti přednášek odpovídá výzkumná aktivita několika výzkumníků z rostoucího vysokoškolského ústavu CIIRC ČVUT. Předmět nabízí studentům, aby se o výzkumu více dozvěděli. Domluvíme se během přednášek.
Several researchers from our growing university research institute CIIRC investigate topics related to the subject. We offer the students the possibility to learn about this research more. We will talk about it at lectures.

Cvičení / Seminars

(seminární i laboratorní) (seminars and labs)
Cvičení jsou v / Seminars are at CIIRC ČVUT, Praha 6, Jugoslávských partyzánů 1580/3, místnost JP:B-633, případně v blízkých laboratořích v pondělí od 10:40 do 12:10.

Ing. Martin Matoušek, Ph.D.
Český institut informatiky, robotiky a kybernetiky ČVUT, místnost JP:B-606b
martin.matousek@cvut.cz, http://people.ciirc.cvut.cz/~xmatousm/

Ve cvičení se student má prakticky seznámit s vybranými partiemi předmětu. Ve cvičení budou studenti řešit tři praktické úlohy. Podmínkou získání zápočtu je splnění úloh a nepříliš formální zpráva o řešení.
A student has to learn selected topics at seminars practically. Students will soilve three practical tasks at seminars. The prerequisit of the credit is the fulfilment o tasks and rather informal report about the solution.

Zkoušení, postup, podmínky zkoušky: / Examining, procedure, examination conditions:

Písemná část prověří studentův přehled v předmětu šesti otázkami. Na odpovědi v celém testu bude 30 minut. Bezprostředně po odevzdání bude test opraven. Otázky pro konkrétní zkušební termín se náhodně vyberou ze seznamu otázek (mohou se měnit do začátku zkouškového období). Tento seznam otázek také radí studentovi, která témata by měl umět ke zkoušce a uměl si tak vybrat v podrobnějším studijním materiálu v poskytnutých průsvitkách a doporučené literatuře.
Written part tests students' overview by six question. There will be 30 minutes to finish the entire test. The test will be corrected right after it is written. Question for the particular test date will be selected randomly from the a priori known question list (it can be modified before examining starts). The list also hints the student which topis she/he could select for more thorough study.
Ústní část: Podrobnější studentova znalost se u zkoušky ověřuje diskusí nad vědeckým článkem, který si student sám vybere a přinese vytištěný ke zkoušce. Článek se musí vztahovat k tématu přednášky, tj. k počítačovému vidění nebo robotice. Volbou článku student sám ovlivní oblast diskuse do větší hloubky. Striktně se požaduje, aby článek byl následujícího seznamu prestižních časopisů a konferencí a nebyl starší pěti let: IEEE Transactions on Pattern Analysis and Machine Intelligence; International Journal of Computer Vision. Ujistěte se, že článek je opravdu z tohoto seznamu. Univerzita platí elektronický přístup k časopisům i konferencím. Nevybírejte články zaměřené na hluboké neuronové sítě. Tato oblast není usazená a těžko se zkouší.
Oral part: The deeper student's knowledge is tested by discussing a scientifc paper. The student brings the printed out paper to the lecture. The paper should relate to the subject, i.e. to computer vision or robotics. Student's paper selection influences influences the depth of the discussion. I require strictly that the paper is from the following list of journals and is not older than five years: IEEE Transactions on Pattern Analysis and Machine Intelligence; International Journal of Computer Vision. The university pays the electronic access to these journals. Do not select paper dealing with deep neural networks. This domain has not settled yet. It is difficult to examine it.
Hodnocení u zkoušky: Výkon ve cvičení max. 40 bodů. Písemka může být hodnocena max. 30 body. Zbylých 30 bodů do plného počtu 100 bodů je z ústního zkoušení. Hodnocení: méně než 50 - nevyhověl; 50 až 66 dobře; 67 až 83 velmi dobře; 84 až 100 výborně
Evaluation at the exam: Seminars max. 40 points. Written text max. 30 points. Oral part max. 30 points. Max total 100 points. Evaluation less than 50 points - failed; 50 to 66 good; 67 to 83 very good;, 84 to 100 excellent.
Termíny zkoušek budou vypsány v SIS. The exam dates will be announced in SIS.

Stránku spravuje / Maintained by Václav Hlaváč, vaclav.hlavac@cvut.cz
Poslední modifikace / last modification: 06.01. 2020 10:28