Masjid Syamsul ‘Ulum yang bertempat di kompleks kampus IT Telkom didirikan pada tanggal 28 September 1994, yang ditandai dengan pemancangan tiang pertama   oleh Menteri Pendidikan dan Kebudayaan RI - saat itu - Prof Dr.Ing. Wardiman Djojodiningrat . Masjid Syamsul ‘Ulum yang berdiri di atas areal timur kampus dengan luas bangunan 1128,96 m2 dengan daya tampung 2000 orang jamaah. Masjid ini merupakan bagian integral kampus IT Telkom, dalam upaya mendidik manusia Indonesia seutuhnya. Pembinaan intelektual dilakukan di fasilitas-fasilitas akademis kampus, sedangkan masjid punya peranan dalam membentuk   mental, spiritual, dan kepribadian sivitas akademika. ita-cita ini semakin menguat dengan diresmikannya penggunaan Masjid Syamsul ‘Ulum pada tanggal 29 Mei 1996 oleh Menteri Riset dan Teknologi RI - saat itu - Prof.Dr.Ing. B.J. Habibie, yang menyiratkan bahwa tidak perlu ada dikotomi antara IPTEK dan pengetahuan agama.

Mahasiswa IT Telkom generasi awal yang merupakan perintis pendirian masjid menyadari bahwa Masjid tidak selayaknya menjadi menara gading yang terpisah jauh oleh masyarakat di sekitarnya. oleh karena itu sejak semula dirancanglah kegiatan-kegiatan yang bersifat pengabdian masyarakat(pelayanan umat), seperti : Gerakan Kakak Asuh, Taman Pendidikan Al Quran, Majelis Taklim Ibu-ibu, Baitul Maal wa Tamwil (BMT) Al Amin, dll. Konsep ini juga tercermin pada disertakannya bangunan penunjang untuk keperluan pendidikan, dan usaha dalam desain Masjid, walaupun hingga kini bangunan ini belum dapat didirikan. Namun demikian kegiatan-kegiatan yang bersifat pengabdian masyarakat masih berjalan hingga kini.