كان يرى أن مواجهة المجاعات والكوارث لا يقتصر على الدول، وأن الدينار والدرهم والريال قد يفعل الكثير، مع إيمانه أن العمل المؤسسي هو الأساس، فاختار أن يعمل جمعية مسلمين أفريقيا التابعة للخير والنجاة الخيرية، ثم استقل بجمعية (أصبحت أكبر منظمة عالمية إغاثية في أفريقيا) هي جمعية العون المباشر. جمعية العون المباشر رأى أن الدعوة والتربية ينبغي أن يسبقها: تأمين الغذاء والحفاظ على الصحة ونيل الاحتياجات الأساسية. لمس بفكره النيِّر أن الناس مجبولون على فطرة الإسلام: فإقناعهم بدخول الإسلام سهل إذا كانت حاجاتهم مؤمنة. كان يحفر البئر قبل المسجد: وهذا من فقه الواقع لدى عبد الرحمن السميط. لم يتعرض لمشاعر المبشرين: ولم يتعد على التقاليد ومظاهر الشرك لدى سكان القارة، سعى لبناء المدارس لمحاربة الجهل بالعلم والحسنى. لم يكن يقدم المال للمحتاجين إلا نادرًا: بل يقيم لهم المشروعات التنموية التي تدر عليهم دخلًا ثابتًا، ويطبق بحنكة ومهارة المبدأ الإسلامي (التنمية المستدامة). كان يركز على الجانب التربوي: باعتباره أهم وسيلة لتحقيق الهدف من بناء الإنسان ، لما سُئِل عن استراتيجيته في العمل الأفريقي، قال: (التعليم ثم التعليم ثم التعليم).
تعرض في أفريقيا لمحاولات قتل مرات عديدة من قبل المليشيات المسلحة بسبب حضوره الطاغي في أوساط الفقراء والمحتاجين، كما حاصرته أفعى الكوبرا في موزمبيق وكينيا وملاوي غير مرة لكنه نجا. بالإضافة إلى لسع البعوض في تلك القرى وشح الماء وانقطاع الكهرباء. وتسلق جبال كلمنجارو في سبيل الدعوة إلى الله وتعرض في حياته لمحن السجون وكان أقساها أسرة على يد البعثيين. ] قضى ربع قرن في أفريقيا وكان يأتي للكويت فقط للزيارة أو العلاج] كما مارس الدعوة في كل من الأسكيمو والعراق. كانت سلسلة رحلاته في أدغال أفريقيا وأهوال التنقل في غاباتها محفوفة بالمخاطر وذلك بتعريض نفسه للخطر لأجل أن يحمل السلام والغوث لأفريقيا بيد فيها رغيف ويد فيها مصباح نور وكتاب، وسلاحه المادي جسده المثخن بالضغط والسكر والجلطات وأما سلاحه الإيماني الذي حسم معارك السميط في سبيل الله والمستضعفين فآيات استقرت في قلبه. استمر السميط يعمل في الدعوة بعد أن طعن في السن وثقلت حركته وأقدامه ورغم إصابته بالسكر وبآلام في قدمه وظهره. وفي أواخر سنواته استحالت حالته الصحية غير مستقرة وأخذ يعاني من توقف في وظائف الكلى ويخضع لعناية مركزة في مستشفى مبارك الكبير.
وتولى أيضاً منصب أمين عام لجنة مسلمي أفريقيا التي أسهم في تأسيسها والتي أصبحت أكبر منظمة عربية إسلامية عاملة في أفريقيا. في إفريقيا كان يقوم بجمع دولاراً شهرياً من كل مسلم، ثم يقوم بطباعة الكتيبات ويقوم بتوصيلها إلى جنوب شرق آسيا وأفريقيا وغير ذلك من أعمال المساعدات والتنمية والتعليم، ساعده فريق من المتطوعين الذين قام باستقطابهم فانخرطوا في تدشين هذا المشروع الإنساني الذي تتمثل معالمه في مداواة المرضى وتضميد جراح المنكوبين ومواساة الفقراء والمحتاجين ومساعدتهم ترك د.