1931年11月1日，北平大学的夏元瑮和张贻惠、清华大学的叶企孙、吴有训、周培源和萨本栋、北平研究院的严济慈和朱广才、北京大学的王守竞、北京师范大学的文元模、燕京大学的谢玉铭、东北大学的丁绪宝和中法大学的吴锐共13人决定发函给国内物理学界同仁，并号召他们作为中国物理学会的发起者，同时附上所拟定的"学会章程"。这些发起者有夏元瑮、胡刚复、李书华、叶企孙、丁燮林、饶毓泰、吴有训、严济慈、萨本栋、王守竞、周培源、赵忠尧、束星北、谢玉铭、梅贻琦等54人，组成筹备委员会，并推选清华大学校长梅贻琦为主任。
经过广泛的协商和认真的筹备，1932年8月23日，在北平清华大学科学馆召开了中国物理学会的成立大会，以及第一次中国物理学年会。共有70余人参加了成立大会。大会由清华大学校长梅贻琦主持，在致词之后，叶企孙报告中国物理学会发起和筹备经过。接着，由吴有训对学会章程草案作说明，然后逐项讨论并修改通过。大会选出5名理事：夏元瑮、颜任光、李书华、丁燮林和梅贻琦；9名评议员：李书华、张贻惠、叶企孙、胡刚复、丁燮林、吴有训、严济慈、萨本栋和王守竞。中国物理学会第一届会长由李书华担任，副会长由叶企孙担任，秘书为吴有训，会计为萨本栋。在这次大会上，朗之万当选为中国物理学会第一位名誉会员。从此，中国物理学家有了自己的组织。
从1932年到1949年，中国物理学会召开了16次年会，组织会员进行学术论文交流。其中，1936年第5次年会是与中国科学社等7个学术团体联合举行的，组织会员抗议日本帝国主义侵占我国东北领土；1942年第10次年会在昆明、重庆、成都、城固、湄潭、桂林等六个地区分别举行，这一年恰好是牛顿诞生300周年，各地区的会议主题都是关于纪念牛顿诞辰的，会员们追忆前贤，交流研究成果，以示薪火相传。
中国物理学会成立之初就设立了物理学名词审查委员会。1934年1月31日，教育部核定公布了中国物理学会编订的物理学名词，后由国立编译馆印行，名为《物理学名词》，这是物理学会参与物理学名词审定工作的开端。抗日战争期间，杨肇燫、周昌寿、陆学善等物理学家也进行了审订物理学名词的许多工作。30年代，中国物理学会还就度量衡和大小数的命名法提出建议,为当时国内科学界所采纳。1947年9月，物理学名词审查委员会在上海交通大学召开会议，重新审查并增订物理学名词1000则。
为了在国内外进行学术交流，1933年10月，中国物理学会在上海出版了《中国物理学报》第一卷第一期（实际上推迟到1934年春印出）。到1950年，一共出版了七卷。学报用外文（英、法、德三种）发表，附以中文摘要。《中国物理学报》从一开始就受到国际物理学界的注意，从30年代起，学报的论文摘要就被美国的《物理文摘》收入。
中国物理学会一开始就注意与国际物理学界的联系与交流。1932年12月1日，吴有训致函国际纯粹物理和应用物理联合会秘书长阿伯拉罕（Abraham），代表中国物理学会申请加入联合会。1933年1月7日，阿伯拉罕复函吴有训，接纳中国物理学会为该会会员。1934年秋，中国物理学会推举王守竞赴伦敦出席国际物理联合会会议。1937年5月21日，中国物理学会秘书严济慈由沪赴法，出席世界文化合作各国协会第二次联合会，并出席法国物理学会理事会。为了更广泛地加强中国物理学家与国外物理学家的交流，中国物理学会先后邀请邀请美国物理化学家朗缪尔（I.Langmuir，1881~1957）、英国物理学家狄拉克（P.M.Dirac，1902~1984）、丹麦物理学家玻尔（N.H.D.Bohr，1885~1962），分别于1934年、1935年、1937年访华，他们曾到北平、上海、杭州等地与中国物理学工作者进行学术交流。
图5
图6
1949年，中华人民共和国成立，中国物理学会进入了一个新的历史时期。中国物理学会的成员和全国其他领域的科学工作者一样决心为新中国的建设贡献力量，积极开展工作，参加各种活动。1950年8月，中华全国自然科学工作者代表会议在北京召开，中国物理学会有25位代表参加。1950年代初，中央政府文化教育委员会主持成立了学术名词统一工作委员会，聘请专家进行编订和审定名词的工作。其中自然科学组从中国物理学会物理学名词审查委员会中吸收专家，组成工作小组，到1951年，他们以1934年确定的5147条名词为基础，扩展到9344条名词。1950年9月，中国物理学会组织王竹溪、马大猷、丁燮林、叶企孙和郑华炽等五人研究度量衡制问题，提出《中国物理学会对大小数命名法及度量衡制的意见书》。这些工作和活动，为1951年8月在北京召开中国物理学会第一届全国会员代表大会奠定了基础。
