古代冶铁多靠铁砂，也就是磁铁矿。如果农民在下地的时候常会有磁石贴在锄头、犁等铁器上，从而就可以可据此发现铁矿。
最开始是利用陨石中的天然铁。
最早的陨铁器是在尼罗河流域的格泽(Gerzeh)和幼发拉底河流域乌尔（Ur)出土于公元前4000多年前的铁珠和匕首。
中国最早的陨铁文物是1972年在河北藁城台西村商代中期（公元前13世纪中期）遗址中发现的铁刃青铜钺。这件古兵器，经全面的科学考查，确定刃部是陨铁加热锻造成的。
中国是世界上利用铁最早的国家之一。早在19000年前，周口店“山顶洞人”就开始使用赤铁矿粉作为赭红色颜料，涂于装饰品上或者随葬撒在尸体周围。这是人类利用天然矿物颜料的开始。到新石器时代（距今10000～4000年），兴起了制陶业，并发明绘制各种风格的彩陶。
绘制赭红色彩陶的原料就是赭石（赤铁矿）。
