李国耀所部忙着调兵遣将的时候，日军对洛阳方向的攻击也开始了。
早在4月中旬，第1军方面就在为攻打洛阳做准备了，由于有天险黄河作为屏障，所以日军想要南下作战就必须渡过黄河，为顺利渡过黄河，其渡河工兵事先在外地进行了渡河训练。
其后第一军参谋长堀毛一麿少将与69师团长三浦忠次郎中将、师团参谋长山本良一大佐，乘侦察机对三处准备渡河地点的黄问南北两岸，进行了空中侦察。
日军选定的第一渡河点是垣曲县黄河岸边的城关镇，第二渡河点是城关镇上游的河堤村，第三渡河点是河堤村上游平陆县曹家川以东之南沟一带。
第1军准备由城关镇、河堤村渡河后向南进攻渑池；由南沟渡河后向东南进攻渑池以西的英豪地区。
崛毛、三浦、山本等在侦察这三处相距约40公里之渡河点的同时，对攻向渑池、英豪的各山间道路、村落、桥梁、山系等也作了目视侦察和进行了大面积的空中摄影。
之后，即依此制定了作战计划，并向69师团下达命令，规定以该师团主力第59旅团由城关镇、河堤村渡过黄河，攻占渑池，配合作战的独立混成第3旅团由南沟渡过黄河后，攻占英豪车站。
为使该计划在执行中能与军的意图一致，崛毛特派出军的作战参谋成田濑武少佐随69师团行动，以加强作战指导。
黄河至垣曲以南的山区，河宽约为500公尺，在这个季节，水面宽约350公尺，流速每秒在3．5公尺左右。在狭窄的河段，其流速更快。
在渡河以前，一切准备工作，都在北岸的山背后或村庄背后及树林中进行，以防被南岸的国民党第47军发现。
5月9日中午，在河堤村的独立工兵59大队一名士兵，因闷热难受，而至村前井边汲水，此时在对岸警戒的国军第47军部队及河北省民军，当即发现了这个敌人，得知日军已在黄河北岸作渡河准备。
随之国军在当日15时和18时两次以轻、重迫击炮对河堤村进行了连续不断的炮击，使在这个村的日军遭受了较大伤亡，有几只铁壳船被炸毁。
当夜十点左右，第69师团在所属的第59旅团从城关镇、河堤村，独立混成第3旅团从南沟开始隐蔽偷渡，刚进至中流即被守军发现并以火力拦阻，日军即以火力支援而进行强渡，当其先头部队上陆并发射了信号弹后，敌即转移火力。
渡过黄河的日军，除留部分部队守备上陆点外，其他则快速向纵深突进，从两侧向守军的后方迂回，配合正面上陆的部队，对守军进行前后夹击，占领了南岸的部分地区，5月10日第69师团的先头部队大部已渡过黄河，并开始攻击前进。
渡过黄河之69师团，随即分三路攻向以南的陇海路沿线之渑池、英豪地区。
从河堤村渡至黄河东岸的3个步兵大队为中路，由木村千代太指挥，向南经青山、西沟、杨广沟，进攻渑池。
从城关镇渡至黄河南岸的两个步兵大队为左路，由南村、清凉洼、东涧向南经下涧、下关底，南阴沟、金灯河、寺坪进攻，进至渑池以东之张沟、孟村一线地区，控制渑池以东之铁路、公路。
由南沟渡过黄河的3个步兵大队为右路，从白浪向东南经前岭、南庄、苏秦村，进攻渑池以西之英豪地区。
国军在渑池地区布防的，是李家钰第36集团军李宗昉之第47军。
在洛阳以东的敌63师团，按命令于5月10日的晚间，经战斗后在巩县西南郊的黑石关渡过于洛河。独立步兵第9旅团，当晚22点到达偃师以北的马洼、牛庄、杨庄，并继续西进，经东西蔡庄于11日的夜间，攻占了孟津县城和该城西北的雷河、油坊街，13日迂回至洛阳以北的长华和西北方向的北马电。
至5月13目的晚间，日军62师团司令部已进至洛阳以东的十里铺、油王、孙村，其炮兵部队已至十里铺以东的白马寺；柳勇的67旅团已到达洛阳东北郊的吕庙，先头的1个大队于14日进至盘龙冢；瓦田隆根的第12野战补充队进至洛阳西北郊之水口、冢头。
至此，日军完成了对洛阳以东、以北地区之包围，并作攻城之准备。
此时，日军战车第3师团、第110师团，已对洛阳城以西地区发起攻击，一部向以西的新安铁路沿线推进，原防守在该地的刘勘兵团，经战斗后向西南地区撤离。
当日军第1、第12军之部队，按预定计划到达洛阳以西、以南地区后，华北方面军向其直属的第63师团，下达了进攻洛阳的命令。
由于原属该师团指挥的长岭喜一独立步兵第9旅团4个步兵大队，已归刚渡过黄河的第1军指挥，并冒着大雨，从北马屯经横水、尚庄、许湾、正村到达了新安。
因而华北方面军给63师团另增配4个步兵大队和部分炮兵，分别是第110师团163联队稻垣毅治少佐之第1大队、独立混成第1旅团清水昂中佐之独立步兵第74大队、独立混成第2旅团森田舍三大佐之独立步兵第5大队、独立混成第9旅团江田贯一郎少佐之独立步兵第38大队、野战重炮兵第6旅团第6联队之1个15榴（口径十五公分）重炮兵大队。
此时防守洛阳城区的为国军武庭麟的第15军64、65师，防守洛阳城北地区；第14军张世光94师防守洛阳城。
而洛阳地区的守备工程，先后以六年时间建成。
在城外洛河以北之丘陵地带的上清宫、西马坡南北长约5公里、东西宽约7公里之地区，筑有防战车壕和钢筋水泥建成的较完全的核心防御体系，城内也筑有各式碉堡、交通壕、地道等坚固工事，后期有约70名美军人员参与这项工作。
华北方面军对蒋鼎文第1战区司令长官部所在地的洛阳，在防守准备上相当注意，曾通过空中照相、地面侦察等手段，了解到不少情况。
第63师团进攻的重点，首先是指向洛阳城北上清宫、史家沟一带的国军第15军之城外阵地。
日军先以柳勇少将的第67旅团所属之独立步兵第25、第78、第137大队，从洛阳城西北之后李村、唐村、李家沟一线，并列攻向东南之上清宫与铁路附近地区，并以江田贯一少佐之独立步兵第38大队，封锁洛阳城东地区。
瓦田隆根大佐野战补充队之独立步兵第1、第2、第3大队，从洛阳以西之五女冢、东涧沟经史家屯、苗家沟，并列攻向以东之史家沟，稻垣毅治少佐之步兵第1大队，封锁洛阳城西附近一带。
清水昂中佐之独立步兵第74大队，封锁洛阳城南地区及洛河两岸，准备阻击由该地南撤之中国守军。
野战重炮兵第6联队之江头大队，位于洛阳城西南约6公里之小屯附近。佐贺胜郎少佐之炮兵大队，位于洛阳城西北约8公里之冢头地区。
森田舍三大佐之独立步兵第5大队为师团预备队，日军预定进攻时间为5月18日的夜间。