IBM 与中国的业务关系源远流长。早在 1934 年，IBM 公司就为北京协和医院安装了第一台商用处理机。1979 年，在中断联系近 30 年之后，IBM 伴随着中国的改革开放再次来到中国。同年在沈阳鼓风机厂安装了中华人民共和国成立后的第一台 IBM 中型计算机。
随着中国改革开放的不断深入，IBM 在华业务日益扩大。80 年代中后期， IBM 先后在北京、上海设立了办事处。1992 年 IBM 在北京正式宣布成立国际商业机器中国有限公司，这是 IBM 在中国的独资企业。此举使 IBM 在实施其在华战略中迈出了实质性的一步，掀开了在华业务的新篇章。随后的 1993 年，IBM 中国有限公司又在广州和上海建立了分公司。到目前为止，IBM 在中国的办事机构进一步扩展至哈尔滨、沈阳、深圳、南京、杭州、成都、西安、武汉、福州、重庆、长沙、昆明和乌鲁木齐等 16 个城市，从而进一步扩大了在华业务覆盖面。伴随着 IBM 在中国的发展，IBM 中国员工队伍不断壮大，目前已超过 5000 人。除此之外，IBM 还成立了 8 家合资和独资公司，分别负责制造、软件开发、服务和租赁的业务。
IBM 非常注重对技术研发的投入。1995 年，IBM 在中国成立了中国研究中心，是 IBM 全球八大研究中心之一，现有 150 多位中国的计算机专家。随后在 1999 年又率先在中国成立了软件开发中心，现有近 2000 位中国软件工程师专攻整合中间件，数据库，Linux 等领域的产品开发。
二十多年来，IBM 的各类信息系统已成为中国金融、电信、冶金、石化、交通、商品流通、政府和教育等许多重要业务领域中最可靠的信息技术手段。IBM 的客户遍及中国经济的各条战线。
与此同时，IBM 在多个重要领域占据着领先的市场份额，包括：服务器、存储、服务、软件和笔记本电脑等。
取诸社会，回馈社会，造福人类，是 IBM 一贯奉行的原则。IBM 积极支持中国的教育事业并在社区活动中有出色的表现。
IBM 与中国高校合作关系的开始可追溯到 1984 年，当年 IBM 为中国高校作了一系列计算机设备硬件和软件的捐赠。1995 年 3 月，以 IBM 与中国国家教委（现教育部）签署合作谅解备忘录为标志，“IBM 中国高校合作项目”正式启动，这一长期全面合作关系的基本宗旨是致力于加强中国高校在信息科学技术领域的学科建设和人才培养。10 年来，IBM 中国高校合作项目不断向着更高的水平、更深的层次和更广的领域发展，对中国高校信息技术相关专业的学科建设和人才培养起到了积极的推动作用。
自 1995 年以来，IBM 已向中国高校捐赠了价值人民币 10.1 亿元的计算机设备、软件及服务。此外，通过与教育部在基础教育领域的合作，IBM 向中国教育机构捐赠的设备总价值达人民币 3177 万元。迄今为止，IBM 对中国教育机构的捐赠已高达人民币 10.4 亿元。
在高校合作项目方面，目前 IBM 已与 50 多所中国知名高校建立了合作关系。30 万人次学生参加了 IBM 技术相关课程的学习和培训，3.7 万人次学生获得 IBM 全球专业技术认证证书，3000 人次教师参加了 IBM 组织的不同形式的师资培训。
除了在高等教育领域与中国教育界进行合作之外，IBM 还将合作范围积极拓展到基础教育领域。继 2001 年 IBM KidSmart“小小探索者”儿童早期智力开发工程引入中国以来，IBM 已经连续 4 年在中国开展了这一项目。目前 IBM 已与遍及全国各省、市、自治区共 38 个城市的近 400 所幼教机构进行合作，捐赠了 1600 套 KidSmart 儿童电脑学习中心。
自 2003 年起，IBM 与教育部进一步合作，在北京、上海、广州和成都的 12 所小学开展了 Reinventing Education“基础教育创新教学项目”，采取更多、更有价值的支持方式，把国外成熟的经验和资源引入中国，并充分结合中国的现状和需求，更好地帮助学校借助 IT 手段提高教学效果。
通过上述两个项目，共有 6000 多名基础教育领域的骨干教师接受了 IBM 的免费培训，10 万名儿童受益。
2003 年，IBM TryScience Around the World“放眼看科学”青少年科普项目在中国正式启动。通过这个项目，IBM 向中国的科技馆捐赠电脑终端，终端通过高速网络与异地服务器相连并将服务器上的丰富内容呈现给科技馆的访问者。“放眼看科学”内容涵盖了生态考古、太空探索、极限运动、海洋生物等多个方面，为青少年打开了一道接触科普知识、了解科学概念的全新大门。目前，IBM 已向 6 个城市的科技馆捐赠了 25 套 IBM TryScience Kiosk 多媒体终端。
对于 IBM 在中国的出色表现和突出贡献，媒体给予了 IBM 十分的肯定。IBM 先后被评为“中国最受尊敬企业”、“中国最受尊敬的外商投资企业”、“中国最具有价值的品牌”、“中国最佳雇主”等。IBM 大中华地区董事长兼首席执行总裁周伟焜先生从 2001 年到 2004 年连续被评为年度 IT 财富人物。2004 年，IBM 中国公司被《财富》杂志中文版评选为“中国最受赞赏的公司”，并荣居榜首。
IBM 的前任 CEO 郭士纳先生在谈到 IBM 中国公司的时候，曾经深情地说：“IBM 怀着对中国的承诺，为中国建立一家世界上首屈一指的信息技术公司。它设在中国，为中国人服务，有朝一日也为全世界服务。IBM 中国公司必将会成为‘中国的 IBM 公司’，成为中国经济的一部分。” 回顾 IBM 在中国的成长历程，从最初的战略尝试阶段，到中期的战略投资阶段，再到全面融入阶段，IBM 始终怀着对中国的深切承诺 。
2004 年，IBM 与中国的合作伙伴关系进一步加强：IBM 在上海成立了亚太总部；与联想公司进行战略合作，共同发展个人电脑业务；与长城公司共同组建了长城国际系统科技（深圳）有限公司，从事服务器生产。
面向 2005 年，IBM 在中国发布了三大战略方向，即：保持快速成长；加强以解决方案和服务为核心的高价值业务和用创新帮助中国客户成功转型并提升其执行力、生产力和竞争力。
今天，新时代的 IBM 中国公司，正秉承“成就客户、创新为要、诚信负责”的核心价值观，引领中国客户共同走向随需应变的转型之路。