前4世纪，今黑龙江地区的人口为数万人。2世纪后期夫余有户8万，鲜卑有10万骑，二者在今黑龙江地区的人口26万，加上挹娄族今黑龙江地区人口计36万。
前2世纪，肃慎族易名为挹娄，5世纪后，挹娄又易名为勿吉。挹娄人的活动区域，与肃慎时大体相同，东至日本海，西接寇漫汗国，南与北沃沮接，北极黑龙江入海口。
秦末中原战乱，给夫余贵族以侵凌邻近弱小民族的时机，挹娄被迫臣属于夫余国。这种关系，一直持续了400余年。3世纪初挹娄社会发展已经进到“好寇盗”阶段，224年挹娄起兵反抗夫余，摆脱了夫余人的统治。
236年，挹娄遣使向曹魏“献楛矢”，建立直接臣属关系，曹魏将其划归辽东郡管辖。这是挹娄民族共同体继春秋肃慎以后，第一次与中原王朝直接来往，并自此保持着融洽的臣属关系。挹娄与高句骊国，也有过臣服关系。后来挹娄趁高句骊受到魏幽州刺史册丘俭军的沉重打击之机，断绝了与高句骊国的来往。降至西晋，鲜卑白容氏崛起，与高句骊争夺辽东，挹娄乘机南下，攻掠高句骊北境。以报旧仇，高句骊于280年发兵征讨，降其“部落六七所以为附庸”，掠走挹娄“六百余家”。此后很长一段时间，双方处于敌对状态。谈德为高句骊国王后，在进攻百济取得胜利后，398年“遣偏师”进攻挹娄，挹娄大败，300余人被俘，挹娄再度被迫臣服。高句骊迁都平壤后，挹娄后裔勿吉、靺鞨，多次受高句骊王调遣，随高句骊兵攻新罗、征百济、侵辽西。
挹娄虽深受夫余、高句骊的民族压迫和剥削，但凭着“便乘船”、“善射”的优势，对居住今图们江流域人少势弱的北沃沮，进行肆无忌惮的“寇钞”，致使北沃沮人常躲到深山岩穴中防备其袭击，只在冬天冰封河道后，才返回村中居住。
(六)靺鞨时期
5世纪后，挹娄易名为勿吉。隋唐时期又易名靺鞨。靺鞨族著名的七部是：粟末部在今吉林市；伯咄部在粟末部东北，今拉林河流域；安车骨部在今依兰县以东；号室部在今绥芬河流域；黑水部在今同江至伯力的黑龙江两岸；白山部在今吉林省敦化、延边。七部之外的诸小部如思白、郡利、窟说、莫曳皆、拂涅、虞娄、越喜、铁利分布在今黑龙江以北和俄国滨海地区。总的来说，靺鞨分为南粟末、北黑水两大政权。
黑水靺鞨16部里面，除作为主体的黑水部外，其他著名部落分布如下。思白部居于今俄国布列亚河(牛满江)和阿姆贡河(恒滚河)上游地区；郡利部分布在黑龙江入海口；窟说部在库页岛北部地区；莫曳皆部居库页岛东南部；拂涅部分布在牡丹江下游以东今密山县；虞娄部分布在兴凯湖以东至海；越喜部在乌苏里江以东地区；铁利部居住在今依兰县。725年，因安东都护薛泰奏请，唐在黑水靺鞨境置黑水州都督府，以其首领为都督，诸部部长为刺史，另派人任长史至其地“监领之”。后来，渤海日趋强盛，唐因安史之乱无力东顾，于是其南部的拂涅、虞娄、越喜、铁利等部为渤海兼并。932年以后，黑水靺鞨转附于正在崛起的契丹，并以契丹人对他们的称呼“女真”为新号。
612年，隋炀帝征高丽，当时附于高丽的靺鞨粟末部的八个分部共千余家归隋，被安置于朝阳市，八个分部为：厥稽部、勾使来部、窟突始部、悦稽蒙部、越羽部、步户赖部、破爱部、步括利部。靺鞨粟末部剩余未归顺隋朝的其他分部站在高丽一边与中原王朝抗争，668年唐亡高丽国后，被强迫迁到朝阳市。唐灭高丽后，靺鞨中的白山部以素附于高丽之故，部众多被迁至中原；伯咄、安居骨、号室诸部衰微逃散,一蹶不振。
696年契丹主李尽忠在营州(朝阳市)发动叛乱，杀营州都督赵文翙。居住在营州的粟末靺鞨人及一部分高丽遗民投入契丹人的反抗行列，粟末靺鞨首领乞乞仲象被契丹主李尽忠授以大舍利之职。武则天派曹仁师、张玄遇、李多祚等28将讨伐契丹。李多祚率军撤离粟末水和那河下游地区，前往辽西一带参加平乱。粟末靺鞨首领乞乞仲象和乞四比羽率粟末靺鞨人东逃。乞四比羽被唐追兵击斩，乞乞仲象在奔亡中病故，乞乞仲象儿子大祚荣率部继续东逃。降唐契丹大将李楷固穷追不舍，至今吉林省境哈达岭，大祚荣大败唐军，李楷固脱身败还。
698年突厥入据今河北省中西部，契丹与奚又依附突厥，于是中原通东北的道路被阻隔，大祚荣审时度势，在粟末靺鞨故地(今吉林省敦化县敖东城)建国称王，以唐武后封其父为震国公之“震国”作国号。震国是以粟末靺鞨贵族为主体，包括白山靺鞨、伯咄靺鞨、安车骨靺鞨，并吸收一部分高丽遗民参加的政权。
唐中宗复位，大祚荣即遣子入侍，臣属于唐。唐睿宗李旦于713年封大祚荣为渤海郡王、忽汗州都督。大祚荣随即以“渤海”取代“震”为国号。762年渤海国王大钦茂以唐为模式，建立渤海五京，即上京龙泉府(今黑龙江省宁安县东京城)、中京显德府(今吉林省敦化县)、东京龙原府(今吉林省珲春县八连城)、南京海南府(今朝鲜咸兴一带)、西京鸭渌府(今吉林省浑江市临江)。第3世王大钦茂死后，大钦茂“族弟”大元义以武力夺得王位，反对者杀了元义，大钦茂孙大华屿夺取王位。第5世王大华屿时迁都上京龙泉府。
857年，渤海聘日大使乌孝慎，将唐长庆宣明历传至日本，日本使用了823年。第10世王大仁秀继位，也经历了一场激烈争夺。末王大諲譔继位后，又出现争夺王权的斗争，失败者纷纷出逃高丽。契丹酋长耶律阿保机，于925年灭亡渤海国，改渤海国为东丹，任长子耶律倍为东丹国王。982年，辽直辖之，东丹国灭亡。936年王建建立高丽王朝，代替新罗统治朝鲜半岛。
渤海亡后，其中心地区几成无人之境。原因有二：一是很多渤海人不愿接受契丹人统治，大批外逃；二是契丹为易于控制，强迁渤海人于它地。外逃的主要是亡入高丽、女真和中原地区，有十几万渤海人亡入高丽，逐渐融合于高丽族中。
契丹强迫渤海人迁离故土，有两次：一在阿保机攻下扶余府和龙泉府后，将渤海大氏王族和战争中俘获的军民迁到巴林左旗；二是928年东丹国都南迁，大批渤海人同被迁至辽东。经过这两次大迁徒，渤海5京15府的居民大多数不在原住地，大体为：上京龙泉府民一部分被迁到巴林左旗，大部分徒居今辽宁省辽阳市；中京显德府民少数远移至老哈河流域，多数被分散在今沈阳市与辽阳市一带；东京龙原府民被迁到今辽宁省凤城县；南京南海府民被移居今海城市；西京鸭禄府被俘者被迁到巴林左旗南；扶余府被俘者被迁至巴林左旗西；鄚颉府民部分迁到今辽宁省昌图县；定理、安边二府居民被南徙今沈阳市北；率宾府部分居民被分别迁往辽宁省盖县和北镇县境；东平府民被分散至辽宁省新民、开原、康平县一带；铁利府部分居民被迁至巴林左旗西北和今西拉木伦河附近、长春市北、沈阳市西南的浑河北；怀远和安远二府民被移居今铁岭市及辽河上游地区、吉林省浑江市北。迁至上述地区的渤海人户，9.4万余户，47万余人。
除了外逃和被强迫迁离故土的外，尚有2万户10万口渤海人留居故地。
1114年女真首领阿骨打起兵反辽后，将渤海人能为兵者编为“渤海军”共8猛安，并住在今辽阳市一带的五千余户渤海人及3万“胜兵”，转移到山东戍守。1145年金熙宗完颜亶罢渤海猛安谋克承袭之制，由女真人管理。1177年金世宗完颜雍禁渤海男女婚娶沿用旧俗。渤海人逐渐与女真人融合，在金亡以后，大多融合于汉族。
(七)女真时期
黑水靺鞨演化为女真族，完颜阿骨打1115年在阿城建立金帝国。猛安(千户)谋克(万户)是金朝本土上京路的社会组织形式，金初有60万人口。1183年，女真猛安谋克及都宗室将军司，共61.5794万户，481.3651万口。其中，迁居中原地区的200万人，徙住今内蒙古一带的40余万人，留居东北地区的200多万人。居今内蒙古的40万女真人，较早归附蒙古统治，有相当一部分加入了蒙古族；另一些女真人跟随蒙古大军分散到南方各省。
1193年，留居东北的200万女真人，居上京、蒲与、速频、易懒、胡里改等路的猛安谋克民户100万人；其余100万人，分布在辽河、鸭绿江流域。居上京等地的100万女真人，除在蒙古兵征讨东夏国时，有小部分死于战乱外，余皆成了元开元路、合兰府水达达等路下的女真人。居住辽河、鸭绿江流域的100余万女真人，1216年蒲鲜万奴叛蒙古东迁女真故地时，带去数十万人，除战乱中少数死亡外，后也大多成了开元路、合兰府水达达等路下的女真人。辽河一带剩下的数十万女真人，在元代还以女真名称活动，其中有少数被迁移到扬州、淮南屯田。东北100多万女真人在元代仍保持女真旧俗，到了明代，被称之为建州女真、海西女真、野人女真。
1212年，耶律留哥起义反金，拥有10余万人，建立大辽国。1216年留哥逃附蒙古，耶厮不继位。1219年留哥引蒙古兵进入东北地区，灭大辽国。1215年金辽东宣抚使蒲鲜万奴领兵40余万镇压留哥起义军，败回今辽阳市，于是叛金自立，建大真国，附近路、州民及猛安谋克人，皆归附之。1216年，投降蒙古。
1220年蒲鲜万奴又叛蒙古自立，改称东夏国。东夏辖地东滨日本海，西至今张广才岭，北抵松花江，南达今朝鲜咸镜南道。1233年，元太宗窝阔台灭东夏国。
(八)元朝时期
1235年元朝设开元(今东宁县)、南京(延吉市)两万户府后接着在其它女真人居住区设立许多路、府、所，管理诸支女真人。1286年，元改辽东路总管府为开元路，女真人皆被纳入开元路。在辽阳、沈阳等路相继成立后，开元路只管辖今辽宁省铁岭市北的女真人，南部的女真人由沈阳、辽阳等路分别统领。
1312年元朝将开元路东北部地区划设水达达路，与开元路同属辽阳行省管辖。此后，开元路(治所在今吉林省农安市)管理的女真人，只是居住在咸平府(治所在今辽宁省开原县)、合兰府(府治在今朝鲜咸兴城)、恤品路(今绥芬河地区,后废)及奚关总管府(治所在今吉林省珲春县)等地区的。今松花江大曲折处至兴凯湖一线以北直到黑龙江入海口这一广阔地域内女真人，统由水达达路管理。
水达达路是元代女真的主要分布地区，元朝在其境内设立了5个军民万户府和水达达、肇州2个屯田万户府外，在黑龙江口奴儿干地方设有征东元帅府(府治在阿姆贡河对岸的特林)；在黑龙江下游立吾者野人-乞列迷等处诸军万户府(治所在阿纽依河与黑龙江汇合处的哈儿分)；在今乌苏里江流域设阿速古儿(乌苏里江古名)千户所；在今俄罗斯境内滨海地区置有鲸海(今日本海)、木答哈、牙兰千户所。
元朝设立桃温、胡里改、斡朵怜、脱斡怜、孛苦江5个军民万户府管理在水达达女真人。桃温，即今松花江下游西岸支流汤旺河，治所在汤原县；胡里改，即今牡丹江，治所在依兰县；斡朵怜，治所在今松花江东、牡丹江西岸的马大屯；脱斡怜，即今洮儿河，府治在今桦川县；孛苦江，府治在今齐齐哈尔。
元朝设立吾者野人-乞列迷等处诸军万户府管理吾者野人-乞列迷女真人。乞列迷，为黑水靺鞨郡利部后裔，与吾者野人杂居同一地区。元末明初有不少吾者野人-乞列迷女真人南迁到三江地区，但仍有不少人留居故地，直到清末还有四五千称“济勒弥”的住在黑龙江口上溯300余公里的沿江地区。骨嵬，是元人对居住骨嵬岛(今库页岛)居民的称呼，在唐代为黑水靺鞨16部之一的窟说部。
元辽阳行省管辖下的女真人，以大分散、小聚居分布在东抵日本海，西至辽河及嫩江一线，南达辽东半岛、朝鲜半岛北部，北暨黑龙江下游流域及包括库页岛在内的广大地区。总人数200万左右。在金末战乱中辽东地区的猛安谋克户，被东真国主蒲鲜万奴迁到今黑龙江省阿城县东至今绥芬河一带地区，辽东地区的女真人大为减少，又与汉和高丽人错居杂处，故元代女真人的主要聚居地，是在松花江和牡丹江中下游一带。
(九)明朝时期
14世纪中叶,女真人的分布地区基本与元代相同。从元末明初开始，女真诸部乘中原动乱之机，逐渐向南迁徙，直到15世纪中叶才稳定下来。这一持续100年左右的迁徙活动，使女真人的聚居区，又移向南部了。南迁后，女真人在南部形成了两个大聚居区，即以今辽宁省新宾县为中心东北至图们江为一聚居区，今辽宁省开原县以北至松花江大曲折处为另一聚居区。这两个聚居区以北的广大地区，为女真人散居区。由于明朝的招抚政策及在南迁过程中的内外诸多因素，3个地区也就分别成了后来的建州女真、海西女真、东海(野人)女真的区域。
明初，居住在今黑龙江依兰县一带的胡里改、斡朵怜两个万户府的女真人，由于受到野人女真南下侵袭和元朝残余势力的骚扰，分别在首领阿哈出(李思诚)、猛哥帖木儿(孟侍穆)率领下，沿今牡丹江向南迁移。胡里改万户府的女真人，先移至今黑龙江省宁安县，再东行，越过穆棱河，进入绥芬河流域，遂定居这一地区。绥芬河下游之双城子为渤海率宾府建州故地，1403年明廷以阿哈出所部置卫，袭建州故名，故命为建州卫。胡里改部偏支在酋长把尔逊带领南迁至珲春河流域，1406年明廷在其地置毛怜卫，作为建州卫的子卫。
斡朵里部南徙到以今朝鲜会宁为中心的图们江东西一带，1406年明朝任命猛哥帖木儿为建州卫指挥使。这样，胡里改和斡朵里两部同居在建州卫管辖下。1408年，居于忽的河(辉发河支流富大河)、法胡河、卓儿河、海刺河(松花江支流海浪河)等处的“女直野人头目哈刺等”朝明，明“遂并其地入建州卫”。至此，建州卫管辖的女真人分布区，西扩至今吉林市东南，东近日本海，北达穆棱河，南过图们江。
1406年女真人入朝鲜抄掠，被击退。阿哈出率部西南徒至今吉林海龙县。同时迁来的，还有部分毛怜卫的居民。猛哥帖木儿所统斡朵里部人世与胡里改部为婚，也于1411年迁到吉林海龙县，住在从海龙县通往开原的地方。1412年，明朝将猛哥帖木儿所部从建州卫中析出，另置建州左卫，以猛哥帖木儿为建州左卫指挥使。
建州卫首领阿哈出孙子李满住，于1423年率一千余户到今鸭绿江支流浑江居住，李满住领400余户住在浑江中游的桓仁县。猛哥不花所统西毛怜卫部众也迁到浑江流域，而猛哥帖木儿则返回到图们江。李满住屡受朝鲜军袭击，被迫于1433年又迁到浑江支流富尔江上游的“吾弥府”居住。朝鲜1437年又欲发兵攻吾弥府，李满住再西迁，到达今浑河支流苏子河畔，即今辽宁省新宾县。
1433年今辽宁省开原县千户杨木答兀袭击建州左卫，猛哥帖木儿及长子阿古被害，朝鲜乘机派兵进驻图们江，猛哥帖木儿的弟弟凡察、猛哥帖木儿次子童仓(董山)于1440年率百余户迁到浑江流域，与李满往会合，住在三统河、浑江以西至大雅儿浒河地区。同时迁来的，还有部分东毛怜的部民。明廷析建州左卫为左、右二卫，童仓掌左卫，凡察掌右卫。自此，便有了历史上著名的“建州三卫”。1451年建州三卫中，建州卫有1700余户，左、右二卫合计才600余户。如按每户5人计算，建州三卫还不到12000人。不过无论是阿哈出迁出绥芬河，还是童仓迁出图们江，都有部分部民未迁走。
但建州女真重新聚居在一地后，来归者日益增多，遂形成一个强大的联盟集团。建州女真8部及其分布为：苏克素护河部，今苏子河；哲陈部，今苏子河与浑河合流处；完颜(王甲)部，今新宾县的浑江上游；浑河部，今抚顺市东南的浑河流域；董鄂部，今大雅儿浒河；鸭绿江部，今鸭绿江上游，是1480年从图们江流域来投的毛怜卫人；讷殷部，今松花江上游；珠舍里部，今吉林省安图县。前人常称前5部为满洲5部，后3部为长白山3部。
海西女真是元朝水达达路桃温、脱斡怜、孛苦江三个万户府的女真人的后裔。明初，主要是指居住在今松花江大曲折处，下至松花江口一带的女真人。建州女真南迁的同时，海西女真也南迁，至16世纪初形成了哈达、乌拉、叶赫、辉发四部，后人讲海西女真，常指分布在今辽宁开原以北至松花江大曲折处的海西四部而言。海西四部按其居住地区分为山寨夷和江夷两部分，哈达、叶赫为山寨夷，乌拉、辉发属江夷。
哈达部：属纳喇氏，其先人本居呼兰河，1406年明王朝在这置塔山卫，1446年明廷析塔山卫另置塔山左卫。塔山左卫地在今呼兰河-依兰县之间，哈达部的成员来源于塔山左卫，与出自塔山卫的乌拉部为同祖——纳齐卜禄。自纳齐卜禄六传至速黑忒(克锡纳)为塔山左卫首领时，塔山左卫已由塔山卫东而迁至塔山卫南，在今吉林省扶余、农安、前郭尔罗斯县。1533年，速黑忒为族人巴岱达尔汗所杀，次子旺住外兰(王忠)率部分部众逃至哈达河(今辽宁省西丰县小清河)，成为哈达部的创建者；巴岱达尔汗长子之子万(王台)，逃至今吉林市西。1552年，王忠所杀，其子博尔坤迎堂兄王台来主哈达部事。王台为部长后，哈达部更强盛。1582年王台死，儿子孟格布禄主部事时，失去霸主地位，于1599年被努尔哈齐兼并。
乌拉部：原居松花江下游，其始祖纳齐卜禄时迁于今呼兰河流域。在速黑忒率塔山左卫南迁后，速黑忒弟古对珠延也率部南移，至其孙布颜时，因不堪蒙古族侵扰，再南迁到今吉林省永吉县，布颜听命于王台。至布颜孙满泰、布占泰先后为王时，乌拉部拥有今吉林省中部，北至东流松花江南，南到盘石县，西达德惠-双阳县一线，东抵图们江上游。1613年为努尔哈齐所破。
辉发部：始祖星古礼，姓益克得哩，尼玛察部人，原居萨哈连乌拉(今第一松花江下游)地区。1409年明在今牡丹江地区置卫，以恼纳领忽鲁哈卫，以塔失掌弗提卫。弗提卫在今富锦县。至星古礼为弗提卫首领时，率部南下至今呼兰河流域，投纳喇氏，改姓纳喇。七传至旺吉努(王机砮)为首领时，南迁至吉林省辉南县。旺吉努死，孙拜音达哩称王。1607年被努尔哈齐灭亡。
叶赫部：源出1406年明朝所置之塔鲁木卫，包括蒙古土默特氏和女真纳喇氏各一支。叶赫部始祖星根达尔汉是蒙古土默特氏人，原居今呼兰河以北，后率部众南迁至今松花江大曲折处，代当地纳喇氏为主，因纳喇氏一支人居多，遂改姓纳喇氏。四传至楚孔格，南迁至叶赫河(今上游称冠河,下游称清河)。六传至清佳努、扬吉努兄弟二人为首领时，各据一寨(都今吉林省梨树县)，皆称王。清佳努子布斋、扬吉努子纳林布禄各继父职后，于1593年联合蒙古科尔沁、锡伯、卦勒察三部、长白山二部(珠舍里、讷殷)，进攻建州女真，惨败而归。八传至锦台石、布扬古时，为努尔哈齐降服。