事業内容はコンピュータ関連のサービスおよびコンサルティングの提供と、ソフトウェア、ハードウェアの開発・製造・販売・保守、およびそれらに伴うファイナンシング、メインフレームコンピュータからナノテクノロジーに至る分野でサービスを提供している。

IBMは研究機関としても有名でもある、2016年時点では米国特許取得数が23年連続の1位となったIBM、23年連続で特許取得数の首位を獲得
。IBMによる発明は、現金自動預け払い機（ATM）、ハードディスク、フロッピーディスク、磁気ストライプカード、リレーショナルデータベース（RDB）、SQLプログラミング言語、バーコード、DRAMなどがある。

IBMは既存のコモディティ化した市場を脱出し、高付加価値な収益性の高い市場に着目することで、事業構成を絶えず組み替えている。例えばプリンタ事業をLexmarkに分社し（1991年に）、レノボへのパーソナルコンピュータ（ブランド、ThinkPadやNetVistaなど）およびx86ベースのサーバー事業を売却（2005年と2014年）、一方でPwCコンサルティング（2002年）、SPSS（2009年）、Weather Company（2016年）などの企業を買収した。またファブレス化として2014年にIBMのグローバルな商用半導体技術事業を米GLOBALFOUNDRIESに工場、技術者、テクノロジー知的財産だけではなく、現金15億ドルまでも付けて譲渡すると発表したIBMの半導体研究モデルは、何が他社と違うのか?
。

製品やロゴの色から本国アメリカでは「Big Blue」の愛称で呼ばれている。これに由来してIBMのプロジェクトには「Blue」を冠するものが多く、広告などのイメージカラーになっている。ダウ平均株価の銘柄に含まれる30社のうちの1社であり、2016年時点で約38万人の従業員数がいる世界最大級の規模の企業となっている。基礎科学の研究にも力を入れワトソン研究所やチューリッヒ研究所からはノーベル賞受賞者を輩出。IBM社員から5人のノーベル賞、6人のチューリング賞、10人のアメリカ国家技術賞、5人のアメリカ国家科学賞の受賞者を輩出している。

CEOのジニー・ロメッティは、米Fortune誌が選ぶ「ビジネス界で最もパワフルな女性」の一人として長年ランクインしている。