2012年4月8日，中国稀土行业协会成立大会暨第一届会员代表大会在北京召开。工业和信息化部部长苗圩、副部长苏波，中国工程院副院长干勇出席成立大会，苗圩、干勇为协会揭牌。发展改革委、监察部、财政部、国土资源部、环境保护部、商务部等稀有金属部际协调机制成员单位和国务院有关部门同志出席了大会。有关省区工业主管部门、稀土行业155家会员企业和新闻媒体代表参加了会议。工业和信息化部原材料司司长陈燕海主持成立大会。

苏波发表讲话，他指出组建中国稀土行业协会是贯彻落实《国务院关于促进稀土行业持续健康发展的若干意见》的重要工作，对于推动稀土行业健康发展具有重要意义。

苏波总结了国务院稀土文件下发以来，各地区、各部门开展的主要工作和取得的积极成效，深入分析了当前稀土行业存在的资源环境等突出问题，提出了当前和今后一段时期内稀土管理的重点工作：一是继续整顿稀土行业秩序，开展稀土行业环境治理，加强环境保护；二是加快组建大型稀土企业集团；三是严格执行指令性生产计划；四是进一步加强法规建设；五是推动稀土产业调整升级。

苏波要求协会努力加强自身建设，切实提高服务能力和水平，为企业发展提供良好服务；积极发挥桥梁和纽带作用，引导企业贯彻国家政策，反映企业诉求，建立健全行业自律机制，逐步规范市场秩序，为稀土行业的持续健康发展作出积极贡献。

成立大会结束后，中国稀土行业协会召开了第一次会员代表大会，审议并通过了《中国稀土行业协会章程》等文件，选举产生了中国稀土行业协会第一届理事会。随后，还召开了第一届理事会全体会议，选举产生了第一届常务理事、会长、副会长、秘书长等协会领导机构。干勇院士出任中国稀土行业协会第一任会长，马荣璋出任第一任秘书长。