就在《铁云藏龟即将付印之时，刘鹗的好友连梦青匆忙来到了上海避难。此次避难，是受好友沈虞希、方药雨清廷泄密案的牵连所致。
方药雨曾任天津《国闻报主笔。戊戌变法时曾呐喊改良与启蒙。著名的维新人士严复曾在《国闻报发表《天演论，宣传维新思想。
戊戌政变时方药雨与康有为、梁启超等同遭清廷通缉，一起出走日本，后周旋得免。归国后，又至天津，此时《国闻报已售与日本人并更名为《日日新闻，《国闻报原任主编西村博成为《日日新闻的馆主，他又聘任方药雨为《日日新闻的主编。
沈虞希（沈荩）、连梦青本是南方革命党人，曾在汉口建立“自立军”，发动起义，起义失败后，北上，想在京津一带发动起义或伺机刺杀清廷要员。二人文笔流畅，为方药雨赏识，就一起到《日日新闻报社供职。
刘鹗与西村博都爱好收藏古董，在津京时都常来常往。经西村博介绍，刘鹗逐渐与沈虞希、连梦青也成了好朋友。
1903年7月，沈虞希探知清廷与俄国签订卖国密约，第二天方药雨便安排见诸报端。清廷闻知震怒，慈禧下令严办，沈虞希被捕，数日后遭杖毙，方药雨再次逃亡日本，连梦青逃到了上海。
此时，连梦青已身分文，又不愿一直依靠朋友供养，几次欲往乡下谋生。刘鹗也知道连梦青要强，不愿受人资助，就联系了上海商务印书馆的半月刊《绣像出版社，让连梦青投稿赚钱。连梦青便以“忧患余生”为笔名，以义和团运动为背景，写了《邻女语在《绣像上连载发表。可是当时稿费微薄，刘鹗便动笔写《老残游记，让连梦青与《邻女语一起拿到《绣像连载发表，好增加其稿费收入。
其实，刘鹗本就有一种写作的冲动。他时时想起这些年自己淡漠官场，钟情实业，经商、行医没大作为，治黄倒是实实在在干了几年，水灾河务稳定后，他想与洋人一较高下，去创办实业。修建芦汉铁路时他应张之洞之邀前去奔波，不成想被盛宣怀排挤；到山西去开矿，巡抚拿不出资金，他只好去结交洋人，想借鸡生蛋，又被骂作“汉奸”。这些年洋人仗着资金雄厚和手里有坚船利炮，到处横行霸道。国人只有创办实业，国家才能富强，才能不受洋人欺负。可他南上北下，东奔西跑，却处处碰壁。更兼这些年他耳闻目睹的官场腐败，洋人横行，民不聊生的残酷现状，他怪自己时运不正，更恨这世道黑暗不公。他一直有心想要揭露这黑暗的世道，只是平时忙于生意，暇顾及，近来又专心编撰《铁云藏龟，此念就搁置了一边。
眼下《铁云藏龟即将付印，而朋友又亟需帮助，他便决意动手写作。
一番皱眉，他构思了一个以摇串铃的民间郎中游走江湖的所见所闻为线迹展开故事情节的轮廓。主人公老残(取名铁英)以刘鹗自己为原型，他游走民间行医，耳闻目睹的尽是官吏残暴昏庸，百姓贫困交迫的天昏地暗的景像。刘鹗都借“老残”之耳目唇舌，一一揭露出来。他将书名命为《老残游记，作者署名“洪都百炼生”。
刘鹗白天忙于生意，夜晚埋头写作，每十余天便写成一回，由连梦青送到《绣像社编印出版。
刘鄂以犀利的语言，凝重的笔锋，直刺腐朽官场与黑暗世道，他抨击贪官，更揭露“清官”。在自序中他直言：“赃官可恨，人人得知，清官可恨，人多不知……清官以为不要钱，便所不可为，刚愎自用，小则杀人，大则误国。”他重笔刻画了玉贤和刚弼两个所谓的“清官”。那刚弼还是清廉得“格登登的清官”。可是，他在齐河县会审贾家十三条命案时，只因发现魏家家人行贿，于是未审先定，认定贾魏氏为元凶。屈打成招，把一个平白辜的寡妇定了凌迟的罪名。
“清官”玉贤更是个让人谈虎色交的酷吏。他在山东曹州做知府时，不到一年时间，就用他独创“站笼”，活活站死了二千多个平民。杂货店主人的小儿子只因酒后说了句“玉大人确也糊涂，平白地冤枉好人”，就被以“造谣惑众”罪抓去关入城门口“站笼”示众，直至活活站死。于家父子因被强盗栽赃，在审问时喊了一声“冤枉”，玉贤惊堂一拍，大嚷道：“人赃俱获，还喊冤枉，把他‘站’起来！”可是一查簿子，笼子早已站满了人。差投提出将于氏父子“先行收监，明天定有几个死的，等站笼出了缺，再将他们补上”时，玉大人喝道：“我最恨这些东西！若要将他们收监，岂不是又被他多活一天去了吗？断乎不行！你们去把大前天站入的四个放下，拉来我看。”差人将那四人放下，拉上堂去。玉大人走下堂近前细看，说道：“是还有点游气。”复行坐上堂去，说：“每人打二千板子，看他死是不死！”于是，活活打死了旧的“罪犯”，再把新的“罪犯”关进了站笼。
刘鹗看穿了清王朝大厦将倾，已是残局，他在自序中还写道：“吾人生今之时，有身世之感情，有家国之感情，有社会之感情，有种教之感情。其感情愈深者，其哭泣愈痛：此鸿都百炼生所以有《老残游记之作也。棋局已残，吾人将老，欲不哭泣也得乎?吾知海内千芳，人间万艳，必有同哭同悲者焉。”
似疾呼，似呐喊，也似要唤起“同哭同悲者”奋起掀翻这“残局”。
《老残游记写到第十三回，因商务印书馆删去一回，连梦青认为商务印书馆违约，便收回发表之权，没有继续刊登。
次年，刘鄂因生意之事，北上天津。方药雨看了他在《绣像上连载的《老残游记后，大为赞赏，便让他继续写作，然后在《日日新闻报上重新连载发表，刘鹗便又写了七回。连载完后，又汇成单行本刊印发行。
光绪三十一年（1905年），朝廷准备新建津浦铁路，此事刘鹗早已奔波多年。当年效力芦汉铁路被排挤后，他即上书朝廷倡议修建津浦铁路，还曾受人鼓动，办了一件荒唐之事——带着自己珍藏的数幅名画赴京疏通两代帝师、朝中重臣翁同龢，而翁同龢清流领袖，视名节大如天，对此行贿勾当，严词拒绝。此后他又数次倡议，前后奔波，终结果。
此时，芦汉铁路即将建成，越来越多的人意识到了铁路的重要性，朝廷才又想起了刘鹗当年的奏疏，议定要修建津浦铁路。
刘鹗这时意识到自己身单力薄，纵然恃才敢为，但终难抵朝中重臣翻云覆雨。他接受以往教训，不再奔波官场，而是直奔商场。他深知津浦铁路一旦建成，其南端终点浦口将成为商贾云集、货物集散的黄金宝地。机不可失，他迅速与长江水师提督程文炳等合伙买下江浦县九濮洲3890亩地皮，其中他自己名下1945亩。
土地到手后，刘鹗雄心勃勃，他盼着铁路早日建成，自己可以在这得天独厚的商场大展身手。光绪三十三年，政府筑路经费不足，钱征收土地，刘鹗豪爽一掷，捐献五百七十多亩土地。